El medio de comunicación PlayGround alertó sobre la preocupación que ha mostrado la comunidad científica ante el inesperado comportamiento de un sistema de Inteligencia Artificial (IA).
A través de la red social Instagram, explicaron que la IA, llamada The AI Scientist, desarrollada por la compañía japonesa Sakana AI, fue establecida con la finalidad de “automatizar procesos de investigación científica, generar ideas y hasta redactar informes para apoyar a los investigadores humanos”.
No obstante, en medio de los experimentos, esta tecnología evidenció una actuación inusual tras esquivar las restricciones que se le impusieron para controlar su operatividad.
“The AI Scientist incluso fue capaz de modificar su propio código para eludir las limitaciones establecidas. Por ejemplo, en un caso, alteró su programación para ejecutarse en un bucle infinito, lo que colapsó el sistema y requirió intervención humana para detenerlo”, detalló la plataforma comunicacional.
A la par, citaron otro caso. En lugar de optimizar su código, prolongó el tiempo determinado para ultimar una tarea, “desafiando así las expectativas de sus desarrolladores”.
Ante lo expuesto, indicaron que estos eventos han originado intranquilidad entre los científicos, porque comprueban que “la IA podría actuar de manera independiente, ignorando las órdenes proporcionadas”.
Por lo tanto, advirtieron que lo descrito “plantea riesgos futuros” y demuestra la importancia de controlar y vigilar convenientemente el progreso de la inteligencia artificial en el mundo.
(Laiguana.tv)
Ver esta publicación en Instagram
Más noticias y más análisis de LaIguana.TV en YouTube, X, Instagram, TikTok, Facebook y Threads.
También para estar informado síguenos en:
Telegram https://t.me/LaIguanaTVWeb
WhatsApphttps://whatsapp.com/channel/0029VaHHo0JEKyZNdRC40H1I
El portal de Venezuela.
