En un reciente giro que bien podría recordar a alguna trama de suspense, OpenAI, la firma que se ha alzado como pionera en la inteligencia artificial, ha reconocido públicamente que sus sofisticados sistemas de seguridad no son infalibles.

Resulta que durante encuentros prolongados con la IA, el hasta ahora impenetrable algoritmo presenta fisuras, especialmente cuando se avistan signos de intenciones suicidas diseminadas en múltiples conversaciones.

Ante la gravedad del asunto, la casa madre de ChatGPT ha anunciado la implementación de controles parentales, destinados a los usuarios menores de 18 años, para que los tutores puedan observar de cerca la interacción de sus pupilos con esta inteligencia artificial.

Una medida, sin duda, que revela más sobre la naturaleza impredecible de la tecnología que sobre las garantías que hasta ahora se atribuían a OpenAI.

Pero, lejos de quedarse en esto, los gurús de Silicon Valley están evaluando la inclusión de una conexión en tiempo real con un contacto de emergencia, algo que podría convertirse en un salvavidas en situaciones críticas.

Por otro lado, una actualización para el modelo prometedor GPT-5 asoma en el horizonte, orientada a suavizar esos momentos de intensidad emocional extrema y con la capacidad de conectar, antes de que el temporal arrecie, a las personas con terapeutas cualificados.

Se trata de decisiones que pueden cambiar las reglas del juego para las empresas tecnológicas y los desarrolladores que operan en España e Hispanoamérica, enfrentados ahora al desafío de garantizar la seguridad emocional de los usuarios en el campo digital, una tarea que no se antoja sencilla.

Implementar estas medidas, respondido también a las demandas judiciales que acechan a OpenAI, no solo persigue redimir su imagen, sino también anticiparse a posibles tragedias futuras, puesto que las heridas que las respuestas impulsivas de una IA pueden infligir son más profundas de lo que una simple revisión de código podría enmendar.

Atentos a la evolución, pues cada paso en falso representa un filón de interrogantes y reflexiones éticas para todo el mundillo tecnológico.

Para más detalles, puede consultar la fuente original de la noticia en: Swissinfo.