Outro tijolo na parede: ameaças à nossa autonomia como fazedores de sentido ao lidar com sistemas de aprendizagem de máquinas
DOI:
https://doi.org/10.51359/2357-9986.2022.252618Palavras-chave:
autonomia, enativismo, machine learning, sense-making, participatory sense-makingResumo
A autonomia, tal como proposta pela abordagem enativapara a cognição, é a capacidade que os organismos vivos têm de seguir as normas constituídas pela sua própria atividade.Esse conceito está ligado outros dois conceitos do enativismo,de sense-makinge de participatory sense-making–o primeiro referindo-se à capacidade do cognoscente de produzir um mundo de sentido através da sua ligação com o ambiente,e de ser afetado pelo meiode forma contínua,e o último constituindo uma extensão desta ideia, que se aplica a processos interativos em que pelo menos dois agentes se encontram envolvidos. Neste ensaio, defendo que, ao lidar com sistemas de machine learning, que não podem ser considerados autônomos, o agente ou cognoscente não pode sustentar a sua autonomia da mesma forma que seria possível sustentá-la num encontro com outro agente. A argumentação desenrola-se em três pilares: o encontro desequilibrado em que a autonomia do cog-noscente é ameaçada; a redução do leque de experiências que um agente autônomo poderia ter e o desconhecimento do cognoscente quanto às normas e às ameaças potenciais dos sistemas com os quais está a lidar. Ainda que o ensaio seja centrado nesses riscos, as oportunidades oferecidas por sistemas algorítmicos como os de aprendizagem de máquina são também reconhecidas. Para aproveitá-las,aponta-se que é necessário buscar um equilíbrio capaz de englobar a intersubjetividade, inerentemente humana, permeada pela afetividade.
Referências
BANNELL, R. Uma faca de dois gumes. In: FERREIRA, Giselle dos Santos. Educação e Tecnologia: abordagens críticas. Rio de Janeiro: SESES, 2017.
BROOKS, R. A. Intelligence without representation. Artificial Intelligence, 47, 139–159, 1991.
CLARK, A. Mindware. Cambridge: MIT Press, 2014.
COECKELBERGH, M. AI Ethics. Cambridge and London: MIT Press, 2020.
DE JAEGHER, H. e DI PAOLO, E. A. Participatory Sense-making: An enactive approach to social cognition. Phenomenology and Cognitive the Sciences, 6, pp. 485-507, 2007.
DE JAEGHER, H. e DI PAOLO, E. A. Making Sense in Participation: An Enactive Approach to Social Cognition. In: Enacting Intersubjectivity: A Cognitive and Social Perspective on the Study of Interactions. F. Morganti, A. Carassa, G. Riva (Eds.) Amsterdam, IOS Press, pp. 33-47, 2008.
DEWEY, J. The Later Works of John Dewey, Volume 1, 1925 - 1953: 1925, Experience and Nature. 1ª ed. Illinois: Southern Illinois University Press, 2008.
Di PAOLO, E. Autopoiesis, adaptivity, teleology, agency. Phenomenol. Cogn. Sci. 4, 429–452, 2005. doi: 10.1007/s11097-005-9002-y
DI PAOLO, E. Extended Life. Topoi 28, 9, 2009. https://doi.org/10.1007/s11245-008-9042-3
DI PAOLO, E. A., BURHMANN, T. E BARANDIARAN, X, E. Sensorimotor Life. An Enactive Proposal. Oxford: Oxford University Press, 2017.
DI PAOLO, E. A.; CUFFARI, E. C. & DE JAEGHER, H. Linguistic Bodies. The Continuity between Life and Language. Cambridge: MIT Press, 2018.
DI PAOLO, E. A. Enactive becoming. Phenomenology and the Cognitive Sciences, 1–27, 2020. https://doi.org/10.1007/s11097-019-09654 -1
DI PAOLO, E., ROHDE, M. & DE JAEGHER. Horizons for the Enactive Mind: Values, Social Interaction, and Play. In: Stewart, J., Gapenne, O. e Di Paolo, E. Enaction – Toward a New Paradigm for Cognitive Science. Cambridge: MIT Press, 2010.
DI PAOLO, E. e THOMPSON, E. The enactive approach. In: SHAPIRO, L. The Routledge Handbook of Embodied Cognition. London: Routledge Taylor & Francis Group, pp. 86-96, 2014.
DREYFUS, H. What Computers Still Can’t Do. MIT Press: New York, NY, USA: 1992.
DREYFUS, H. Skillful Coping – Essays on the phenomenology of everyday perception and action. Oxford: Oxford University Press, 2016.
GIBSON, J. The Ecological Approach to Visual Perception. New York: Psychology Press, 1986.
JOHNSON, M. The meaning of the body: aesthetics of human understanding. Chicago & London: The University of Chicago Press, 2007.
JOHNSON, M. Embodied mind, meaning and reason - how our bodies give rise to understanding. Chicago: University of Chicago Press, 2017.
JOHNSON, M. The aesthetics of meaning and thought – the bodily roots of Philosophy, Science, Morality and Art. Chicago: University of Chicago Press, 2018.
HOLMES, W., BIALIK, M. e FADEL, C. Artificial Intelligence in Education – Promises and Implications for Teaching and Learning. Boston: The Center for Curriculum Redesign, 2019.
HURLEY, S. Perception And Action: Alternative Views. Synthese 129, 3–40, 2001. https://doi.org/10.1023/A:1012643006930
MATURANA, H. e VARELA, F. Autopoiesis and Cognition. Boston Studies in the Philosophy and History of Science, vol. 42. Springer, Dordercht, 1980.
MATURANA, H. e VARELA, F. A Árvore do Conhecimento – As bases biológicas da compreensão humana. São Paulo: Palas Athena, 2019.
O’NEIL, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.
ROHDE, M. Enaction, Embodiment, Evolutionary Robotics. Paris: Atlantis Press, 2010.
SHEETS-JOHNSTONE, M. Thinking in Movement: Further Analyses and Validations. In: Enaction – Toward a New Paradigm for Cognitive Science. Cambridge: MIT Press, 2010.
STEWART, J., GAPENNE, O. e DI PAOLO, E. Enaction – Toward a New Paradigm for Cognitive Science. Cambridge: MIT Press, 2010.
THOMPSON, E. Mind in Life. Biology, Phenomenology, and the Sciences of Mind. Cambridge: Harvard University Press, 2007.
VARELA, F., THOMPSON, E. and ROSCH, E. The Embodied Mind – Cognitive Science and Human Experience.
VÉLIZ, C. Moral Zombies: Why Algorithms Are Not Moral Agents. AI and Society 36 (2): 487–97, 2021. https://doi.org/10.1007/s00146-021-01189-x.
ZAHAVI, D. A fenomenologia e o(s) problema(s) da intersubjetividade. In Bannell, R. I., Mizrahi, M., Martins dos Santos Ferreira, G. (Orgs.) (Des)educando a educação: Mentes, Materialidades e Metáforas. Rio de Janeiro: PUC-Rio, 2021.
ZEBROWSKI, R. L., e McGRAW, E. Autonomy and Openness in Human and Machine Systems: Participatory Sense-Making and Artificial Minds. Journal of Artificial Intelligence and Consciousness 08 (02): 303–23, 2021. https://doi.org/10.1142/s2705078521500181.
Downloads
Publicado
Edição
Seção
Licença
A Revista Perspectiva Filosófica orienta seus procedimentos de gestão de artigos conforme as diretrizes básicas formuladas pelo Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq). http://www.cnpq.br/web/guest/diretrizesAutores que publicam nesta revista concordam com os seguintes termos:
Os autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, sendo o trabalho simultaneamente licenciado sob https://creativecommons.org/licenses/by/4.0/deed.pt_BR que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
Os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista, com reconhecimento de autoria e publicação inicial nesta revista (Consultar http://opcit.eprints.org/oacitation-biblio.html).
Esta revista está licenciada com uma Licença Creative Commons Atribuição 4.0 Internacional.
