Noticias De IA: Investigadores Descubren Posibles Amenazas Para La Seguridad De ChatGPT

En las últimas noticias sobre Inteligencia Artificial, los investigadores han revelado algunas posibles amenazas a la seguridad inherentes a las herramientas de IA como ChatGPT de OpenAI.

Amenaza de malware para ChatGPT

Con el ritmo al que diferentes empresas lanzan herramientas de inteligencia artificial, uno podría pensar que su uso no conlleva riesgos.

Sin embargo, una nueva investigación sobre estas tecnologías innovadoras ha dado a conocer que los usuarios pueden estar predispuestos a algunas amenazas de seguridad, aunque este no sea el caso actualmente. Vale la pena destacar que, ya existen temores en torno a la seguridad de la IA, como lo señalaron diferentes organismos reguladores.

Los investigadores aseguraron que las herramientas de inteligencia artificial como ChatGPT y Gemini de Google, cuya última versión se lanzó hace unas semanas, pueden ser caldo de cultivo para amenazas de malware.

En ese sentido, la investigación descubrió un gusano informático que «explota un mal diseño de arquitectura para el ecosistema GenAI y no es una vulnerabilidad en el servicio GenAI». Este personaje se llama Morris II, en honor al gusano Morris de 1988 que bloqueó alrededor del 10% de todas las computadoras conectadas a Internet en ese momento.

Este tipo de virus es capaz de destruir, replicarse y propagarse a otros sistemas. La mayoría de las veces, no requiere la interacción del usuario para infectar la IA Generativa . Normalmente, estas plataformas GenAI requieren indicaciones; e instrucciones en formato texto, para llevar a cabo sus funciones.

Morris II intenta anular el sistema comprometiendo las indicaciones y transformándolas en instrucciones maliciosas. Las ordenes maliciosas engañan a GenAI para que realice acciones nocivas sin el conocimiento del usuario o del sistema.

¿Cómo mantener los gusanos informáticos alejados de las computadora?

Se recomienda a los usuarios de IA que estén atentos y sean cautelosos con los correos electrónicos y enlaces de fuentes desconocidas o no confiables. Como refuerzo, también podrían invertir en un software antivirus confiable y eficiente que pueda identificar y eliminar fácilmente el malware, incluidos estos gusanos informáticos. Este, según los investigadores, es el mejor método para mantener los virus fuera de su sistema.

Tenga en cuenta además, el uso de contraseñas seguras, actualizaciones constantes del sistema y el intercambio limitado de archivos como otras sugerencias para limitar las actividades de los gusanos maliciosos.

En medio de esta investigación, OpenAI de Sam Altman presentó una nueva herramienta de inteligencia artificial que puede recrear la voz humana. Voice Engine requiere entrada de texto y una única muestra de grabación de 15 segundos para recrear la voz de una persona.

Considerando su modelo GenAI, existe un gran potencial para que esta nueva herramienta también sea explotada por malos actores cuando finalmente entre en funcionamiento después de la fase de prueba en curso.