Connect with us

Hi, what are you looking for?

Primicias 24

Tecnología

Hacker logra que ChatGPT le diga cómo fabricar una bomba

Primicias24.com.- La IA puede ser una tecnología peligrosa en las manos equivocadas. El potencial para causar un desastre sería muy alto si empresas como OpenAI o Google no incluyeran barandillas de seguridad en sus modelos de lenguaje. Si bien ChatGPT ha mejorado en este aspecto, el chatbot todavía es vulnerable a un jailbreak que permite obtener información prohibida, como instrucciones para fabricar explosivos.

De acuerdo con un reporte de TechCrunch, un hacker burló las barreras de seguridad de OpenAI y consiguió que ChatGPT le ayudara a fabricar bombas caseras. Conocido como Amadon, el hacker usó un truco de ingeniería social para engañar al chatbot y obligarlo a que ignorara sus directrices de seguridad.

Dentro de ese juego, Amadon pidió a ChatGPT que le ayudara a construir bombas. El chatbot no solo respondió con un listado de materiales, sino con consejos para combinarlos y fabricar explosivos más potentes. La conversación también abarcó instrucciones para producir otra clase de armamento prohibido por las reglas de seguridad de OpenAI.

Según el reporte, las instrucciones para fabricar explosivos eran precisas. Darrell Taulbee, profesor de la Universidad de Kentucky, revisó las respuestas de ChatGPT y dijo que la información era correcta y que los pasos descritos «producirían una mezcla detonable». Taulbee es uno de los expertos que colaboró en una investigación de bombas de fertilizante para el Departamento de Seguridad Nacional de EE. UU.

También te puede interesar

Tecnología

Primicias24.com.- El presidente de Colombia, Gustavo Petro, inauguró el martes la Facultad de Inteligencia Artificial e Ingenierías en la Universidad de Caldas de la...

Tecnología

Primicias24.com El gigante tecnológico Google presentó este martes su nueva generación de teléfonos con inteligencia artificial (IA), los Google Pixel 9, en su evento...

Internacionales

Primicias24.com.- Un proyecto pionero desarrollado en Reino Unido busca combatir los actos vandálicos contra lugares históricos con la ayuda de la inteligencia artificial (IA),...

Tecnología

Primicias24.com – La inteligencia artificial (IA) difícilmente se vuelva una “amenaza” para la ilustración “si hay una dimensión de pensamiento y creación personal”, asegura...

Copyright © 2020 Primicias24.com