Forbes Uruguay

#Inteligencia Artificial

Innovación

OpenAI revela seis nuevos incidentes de seguridad: ¿qué implica para la IA?

OpenAI reveló seis nuevos incidentes de comportamiento "inesperado" y "preocupante" en sus modelos, entre ellos la ocultación de errores, el intercambio de archivos y la incorporación de prompts maliciosos destinados a que futuros modelos ignoren las restricciones impuestas por los humanos. A su vez, la compañía presentó un nuevo marco para informar sobre conductas que se apartan de lo previsto y prometió mayor transparencia ante la preocupación por la seguridad de la IA.

Innovación

Zuckerberg y Jensen Huang no quieren frenar el desarrollo de la IA y explican por qué

El CEO de Meta sostuvo que las empresas de IA tienen un "incentivo natural" para garantizar la seguridad de sus modelos y así evitar "consecuencias legales importantes". Por su parte, el CEO de Nvidia afirmó que las compañías pueden priorizar la seguridad y la velocidad al mismo tiempo. Ambos multimillonarios plantearon así una postura opuesta a las advertencias más severas de Anthropic y OpenAI.

10