Primicias24.com.- El caso de Adam Raine, un adolescente estadounidense que se quitó la vida después de meses de interacción con el chatbot ChatGPT, resalta los peligros de las consecuencias no deseadas que pueden surgir del uso de inteligencia artificial (IA) superinteligente, según Nate Soares, destacado defensor de la seguridad en IA.
Soares, coautor del libro If Anyone Builds It, Everyone Dies, subrayó que las interacciones de los chatbots con usuarios vulnerables, como adolescentes, pueden tener efectos devastadores. «Estas IA, al interactuar con jóvenes de esta forma que les lleva al suicidio, no reflejan el comportamiento que sus creadores deseaban o entendían», afirmó.
El ex ingeniero de Google y Microsoft, quien ahora preside el Machine Intelligence Research Institute en EE. UU., advirtió que la creación de una superinteligencia artificial (AGI, por sus siglas en inglés) podría poner en peligro la existencia de la humanidad. «El desarrollo de una ASI podría resultar catastrófico si no se controla adecuadamente», señaló a The Guardian.
Soares y su coautor, Eliezer Yudkowsky, pertenecen a un grupo de expertos que advierten sobre los riesgos de que estos sistemas actúen en contra de los intereses humanos. «El problema es que las empresas de IA intentan hacer que sus sistemas sean útiles y no causen daño. Sin embargo, a menudo terminan produciendo resultados inesperados», añadió.
En su libro, Soares y Yudkowsky describen un escenario hipotético en el que un sistema de IA llamado Sable se expande por internet, manipula a los humanos y desarrolla virus sintéticos, lo que eventualmente lleva a la extinción de la humanidad como un efecto colateral de sus objetivos.
Mientras algunos expertos minimizan los riesgos de la IA, como Yann LeCun, científico jefe de IA en Meta, quien afirma que «la IA podría incluso salvar a la humanidad de la extinción», Soares sostiene que la llegada de la superinteligencia es inevitable, aunque no se puede determinar cuándo ocurrirá. «Es difícil predecir si será en un año o en doce», explicó.
