Datos clave

• En una extensa publicación en X, Zuckerberg afirmó que la gente no utilizará agentes de IA que estén "desalineados con ellos y... no hagan lo que se les pide". Según explicó, esto supone un "fuerte incentivo natural" para que las empresas garanticen dicha alineación.
• Ante la presión para frenar el desarrollo de nuevas capacidades de IA, el CEO de Meta afirmó que la "confianza y la alineación" son las capacidades más importantes. Además, sostuvo que las empresas que fracasen en ese aspecto quedarán rezagadas.
• Zuckerberg afirmó que Meta retrasó "varios meses" el lanzamiento de Muse, su nuevo agente personal de IA, para garantizar su seguridad. Además, remarcó que "no exigió que los demás hicieran lo mismo antes de que nosotros lo hiciéramos".
• El CEO de Meta también pareció restarle importancia al argumento de que las empresas de IA deban coordinar sus esfuerzos para garantizar la seguridad. Al respecto, sostuvo que "cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura y la capacidad de tomar sus propias medidas para garantizar que eso suceda".
• Sin embargo, Zuckerberg respaldó la contratación de evaluadores y asesores independientes, una medida que tanto Anthropic como OpenAI también promovieron, y afirmó que su empresa ya aplica esta práctica en distintas áreas.

El CEO de Nvidia también rechaza frenar el desarrollo de la tecnología

El CEO de Nvidia, Jensen Huang, también rechazó la idea de frenar el desarrollo de la IA durante su participación en el evento anual Dreamforce de Salesforce. Ahí sostuvo que plantear una elección entre seguridad y velocidad era una disyuntiva "falsa" y afirmó que "sin duda se pueden tener ambas al mismo tiempo". Además, descartó la necesidad de nuevas normas para el sector: "No necesitamos nuevas leyes, no necesitamos nuevas regulaciones". Para Huang, el propio mercado funciona como un límite, ya que las empresas deben avanzar con cautela hasta tener la certeza de "lanzar algo que el mercado apreciaría".

Un día antes, Huang participó en una llamada con el presidente Donald Trump mientras estaba en vivo sobre el escenario de la Cumbre All-In. Durante la conversación, Trump calificó los temores sobre la seguridad de la IA como un "engaño" y cuestionó a quienes se oponen al desarrollo de esta tecnología y a la construcción de centros de datos. "Están haciéndole el juego a mucha gente que no quiere que esto suceda. No vamos a permitir que eso ocurra", declaró. Huang coincidió con el presidente de Estados Unidos y respondió: "Tiene razón. No vamos a permitir que eso ocurra, señor".

Cita crucial

La publicación de Zuckerberg pareció apuntar contra Anthropic y OpenAI por su impulso a la llamada "automejora recursiva", un proceso en el que modelos de IA existentes ayudan a entrenar y desarrollar sistemas cada vez más avanzados. "Destinar la gran mayoría de la capacidad de procesamiento a servir a las personas, en lugar de apresurarse hacia la automejora recursiva, es una de las mejores maneras de garantizar que desarrollemos esta tecnología de forma segura. Meta asumió este compromiso y otros laboratorios también pueden hacerlo", afirmó.

La postura de Anthropic

El CEO de Anthropic, Dario Amodei, advirtió durante el fin de semana sobre los riesgos de seguridad de la IA e instó a las principales empresas a reducir deliberadamente el ritmo de desarrollo de los modelos más avanzados. También participó en la conferencia principal de Dreamforce. Cuando el CEO de Salesforce, Marc Benioff, le pidió que explicara su postura, Amodei recurrió a una comparación con una automotriz cuyo competidor sufrió un incidente de seguridad. 

"Es muy tentador atacar a tu competidor y decir: 'Estos tipos no son seguros, nosotros somos seguros', pero creo que la forma más responsable de responder es decir: 'Oye, en primer lugar, veamos nuestro propio historial'. Puede que no hayamos tenido este gran incidente de alto perfil, pero estoy seguro de que no somos perfectos", señaló.  Además, agregó que esta era una oportunidad para "reafirmar el compromiso con la transparencia, invertir más en seguridad" y reunir al resto de la industria con el objetivo de establecer estándares comunes.

*Esta nota fue publicada originalmente en Forbes.com.