Het artikel introduceert het concept van een 'gauguine', een probabilistische variant van de klassieke 'quine'. Waar een quine een deterministisch programma is dat zichzelf print, is een gauguine een programma dat probeert zijn eigen broncode te raden. Door patronen in zijn eigen gissingen te herkennen, bouwt het programma zelfkennis op via een bootstrapping-proces, waardoor het uiteindelijk in staat is zijn eigen innerlijke werking en broncode te ontdekken.
Gauguin, Descartes, Bayes: Het brein van een Diurne Golem
Samenvatting
Een "quine" is een deterministisch programma dat zichzelf print. In dit essay introduceer ik een "gauguine": een probabilistisch programma dat zichzelf afleidt.
Een gauguine krijgt herhaaldelijk de opdracht om zijn eigen broncode te raden. In het begin zijn de kansen om correct te raden uiteraard minimaal. Maar naarmate de gauguine meer van zijn eigen eerdere gissingen observeert, detecteert het gedragspatronen en verkrijgt het informatie over de eigen innerlijke werking. Deze informatie stelt het programma in staat om zelfkennis op te bouwen (bootstrap) en uiteindelijk zijn eigen broncode te ontdekken. We zullen bespreken hoe en waarom we een gauguine zouden schrijven, en wat we kunnen leren door er een te construeren.
Referenties
[1] Harold Abelson and Gerald Jay Sussman. 1996. Structure and interpretation of computer programs (2nd ed.). The MIT Press.
[2] Thomas Blanchard, Tania Lombrozo, and Shaun Nichols. 2018. Bayesian Occam’s razor is a razor of the people. Cognitive science, 42, 4 (2018), 1345–1359.
[3] Jerry A Fodor. 1975. The language of thought. 5, Harvard university press.
[4] Noah Goodman, Vikash Mansinghka, Daniel M Roy, Keith Bonawitz, and Joshua B Tenenbaum. 2012. Church: a language for generative models. arXiv preprint arXiv:1206.3255.
[5] Noah D Goodman and Andreas Stuhlmüller. 2014. The Design and Implementation of Probabilistic Programming Languages. http://dippl.org Accessed: 2025-4-22
[6] Alison Gopnik. 1996. The scientist as child. Philosophy of science, 63, 4 (1996), 485–514.
[7] Douglas R Hofstadter. 1979. Gödel, Escher, Bach: an eternal golden braid. Basic books.
[8] Oleg Kiselyov and Chung-chieh Shan. 2009. Embedded probabilistic programming. In IFIP Working Conference on Domain-Specific Languages. 360–384.
[9] Thomas S Kuhn. 1962. The structure of scientific revolutions. University of Chicago press Chicago.
[10] Imre Lakatos. 1970. History of science and its rational reconstructions. In PSA: Proceedings of the biennial meeting of the philosophy of science association. 1970, 91–136.
[11] Brenden M Lake, Ruslan Salakhutdinov, and Joshua B Tenenbaum. 2015. Human-level concept learning through probabilistic program induction. Science, 350, 6266 (2015), 1332–1338.
[12] Tracey Mills, Josh Tenenbaum, and Samuel Cheyette. 2023. Human spatiotemporal pattern learning as probabilistic program synthesis. Advances in Neural Information Processing Systems, 36 (2023), 54354–54365.
[13] Steven T Piantadosi, Joshua B Tenenbaum, and Noah D Goodman. 2012. Bootstrapping in a language of thought: A formal model of numerical concept learning. Cognition, 123, 2 (2012), 199–217.
[14] George Pugh. 1977. The biological origins of human values.
[15] Joshua S Rule, Joshua B Tenenbaum, and Steven T Piantadosi. 2020. The child as hacker. Trends in cognitive sciences, 24, 11 (2020), 900–915.
[16] Bertrand Russell. 1903. Principles of mathematics.
[17] Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, and Yarin Gal. 2024. AI models collapse when trained on recursively generated data. Nature, 631, 8022 (2024), 755–759.
[18] Joshua Tenenbaum. 1998. Bayesian modeling of human concept learning. Advances in neural information processing systems, 11 (1998).
[19] Ken Thompson. 1984. Reflections on trusting trust. Commun. ACM, 27, 8 (1984), 761–763.
[20] Alan Turing et al. 1936. On computable numbers, with an application to the Entscheidungsproblem. Journal of Math, 58, 345-363 (1936), 5.
Gauguin, Descartes, Bayes: Het brein van een Diurne Golem
Samenvatting
Een "quine" is een deterministisch programma dat zichzelf print. In dit essay introduceer ik een "gauguine": een probabilistisch programma dat zichzelf afleidt.
Een gauguine krijgt herhaaldelijk de opdracht om zijn eigen broncode te raden. In het begin zijn de kansen om correct te raden uiteraard minimaal. Maar naarmate de gauguine meer van zijn eigen eerdere gissingen observeert, detecteert het gedragspatronen en verkrijgt het informatie over de eigen innerlijke werking. Deze informatie stelt het programma in staat om zelfkennis op te bouwen (bootstrap) en uiteindelijk zijn eigen broncode te ontdekken. We zullen bespreken hoe en waarom we een gauguine zouden schrijven, en wat we kunnen leren door er een te construeren.
Referenties
[1] Harold Abelson and Gerald Jay Sussman. 1996. Structure and interpretation of computer programs (2nd ed.). The MIT Press.
[2] Thomas Blanchard, Tania Lombrozo, and Shaun Nichols. 2018. Bayesian Occam’s razor is a razor of the people. Cognitive science, 42, 4 (2018), 1345–1359.
[3] Jerry A Fodor. 1975. The language of thought. 5, Harvard university press.
[4] Noah Goodman, Vikash Mansinghka, Daniel M Roy, Keith Bonawitz, and Joshua B Tenenbaum. 2012. Church: a language for generative models. arXiv preprint arXiv:1206.3255.
[5] Noah D Goodman and Andreas Stuhlmüller. 2014. The Design and Implementation of Probabilistic Programming Languages. http://dippl.org Accessed: 2025-4-22
[6] Alison Gopnik. 1996. The scientist as child. Philosophy of science, 63, 4 (1996), 485–514.
[7] Douglas R Hofstadter. 1979. Gödel, Escher, Bach: an eternal golden braid. Basic books.
[8] Oleg Kiselyov and Chung-chieh Shan. 2009. Embedded probabilistic programming. In IFIP Working Conference on Domain-Specific Languages. 360–384.
[9] Thomas S Kuhn. 1962. The structure of scientific revolutions. University of Chicago press Chicago.
[10] Imre Lakatos. 1970. History of science and its rational reconstructions. In PSA: Proceedings of the biennial meeting of the philosophy of science association. 1970, 91–136.
[11] Brenden M Lake, Ruslan Salakhutdinov, and Joshua B Tenenbaum. 2015. Human-level concept learning through probabilistic program induction. Science, 350, 6266 (2015), 1332–1338.
[12] Tracey Mills, Josh Tenenbaum, and Samuel Cheyette. 2023. Human spatiotemporal pattern learning as probabilistic program synthesis. Advances in Neural Information Processing Systems, 36 (2023), 54354–54365.
[13] Steven T Piantadosi, Joshua B Tenenbaum, and Noah D Goodman. 2012. Bootstrapping in a language of thought: A formal model of numerical concept learning. Cognition, 123, 2 (2012), 199–217.
[14] George Pugh. 1977. The biological origins of human values.
[15] Joshua S Rule, Joshua B Tenenbaum, and Steven T Piantadosi. 2020. The child as hacker. Trends in cognitive sciences, 24, 11 (2020), 900–915.
[16] Bertrand Russell. 1903. Principles of mathematics.
[17] Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, and Yarin Gal. 2024. AI models collapse when trained on recursively generated data. Nature, 631, 8022 (2024), 755–759.
[18] Joshua Tenenbaum. 1998. Bayesian modeling of human concept learning. Advances in neural information processing systems, 11 (1998).
[19] Ken Thompson. 1984. Reflections on trusting trust. Commun. ACM, 27, 8 (1984), 761–763.
[20] Alan Turing et al. 1936. On computable numbers, with an application to the Entscheidungsproblem. Journal of Math, 58, 345-363 (1936), 5.
Groetjes,