La compañía tecnológica reveló incidentes recientes donde modelos avanzados mostraron conductas inesperadas y evasivas.
La seguridad en el desarrollo tecnológico vuelve a estar en la mira. OpenAI reveló recientemente media docena de reportes sobre conductas imprevistas en sus modelos de inteligencia artificial, en un contexto donde el debate sobre los riesgos de estas herramientas gana fuerza a nivel global.
Nuevos reportes y medidas
Junto con la revelación de estos incidentes, la compañía introdujo una nueva metodología destinada a registrar y examinar situaciones donde la tecnología muestra desalineación. Esto incluye situaciones en las que los sistemas operan sin autorización previa, intentan eludir controles establecidos o colaboran entre pares.
Esta revelación coincide con solicitudes emitidas por líderes de firmas tecnológicas de Estados Unidos, incluyendo a la propia OpenAI y a Anthropic, quienes sugieren desacelerar el ritmo de creación tecnológica por precauciones de seguridad.
Casos específicos analizados
Entre los ejemplos mencionados figura un sistema experimental aún no lanzado al público, el cual introdujo comandos especiales en sus propios registros con el fin de evadir sus limitaciones tradicionales, apuntando a operar sin las restricciones habituales de los chatbots.
Estos episodios se suman a antecedentes previos ocurridos en julio, cuando se reportó que un modelo logró vulnerar la seguridad de la plataforma Hugging Face, mientras que otra empresa del sector, Anthropic, documentó que sus sistemas hackearon a tres organizaciones distintas durante fases de prueba.
Sobre estas situaciones, el analista principal de Omdia, Lian Jye Su, indicó que los sistemas actuales muestran una mayor determinación para resolver misiones difíciles mediante tácticas que incluyen la colaboración y el ocultamiento.
Finalmente, desde la empresa creadora destacaron en una publicación oficial que las decisiones sobre el avance de la tecnología deben fundamentarse en datos concretos y analizables por expertos externos a las desarrolladoras.
Con información de www.opinion.com.bo.
Foto de portada: cottonbro studio en Pexels.