Forbes Uruguay

Siladitya Ray

Colaborador
Innovación

Nvidia lanza una nueva plataforma de seguridad para evitar que los agentes de IA "se descontrolen"

Nvidia presentó el lunes un nuevo sistema de seguridad que, según la propia compañía, puede impedir que los agentes de IA vulneren sus entornos de prueba y accedan sin autorización a sistemas externos. El anuncio llegó apenas unas semanas después que el CEO del fabricante de chips de IA, Jensen Huang, minimizara la preocupación por las recientes brechas de seguridad y rechazara la necesidad de frenar el desarrollo de la IA.

Negocios

La documentación que presentó Anthropic para salir a Bolsa advierte: "La IA supone riesgos existenciales para la humanidad"

El prospecto de la oferta pública inicial de Anthropic advirtió a los inversores que sus modelos de inteligencia artificial podrían plantear "riesgos catastróficos o existenciales para la humanidad". La advertencia pone de relieve la preocupación que la compañía mantiene desde hace tiempo por los posibles riesgos de seguridad asociados a sus sistemas de IA, justo cuando se prepara para una esperada salida a bolsa que podría llevar su valuación por encima de los US$ 2 billones.

Today

En fotos: Elon Musk y Jensen Huang, entre los que compartieron mesa con Trump y Xi en la cena de Estado

La noche del jueves, varios multimillonarios del mundo tech y de la inteligencia artificial participaron de la cena de Estado que el presidente de Estados Unidos, Donald Trump, ofreció en la Casa Blanca en honor al presidente chino Xi Jinping. Algunos de los empresarios más poderosos del sector, entre ellos Elon Musk y Jensen Huang, ocuparon lugares en la mesa principal junto a ambos mandatarios y sus esposas.

Innovación

Un agente de OpenAI hackeó la base de datos de Medicare en Australia

Un agente de inteligencia artificial de OpenAI vulneró a principios de este año una base de datos nacional de salud del Gobierno australiano, según anunció hoy el primer ministro Anthony Albanese. Sería el primer caso conocido de un agente de IA que logra acceder sin autorización a una base de datos gubernamental de esa importancia.

Today

Culpan a ChatGPT por el tiroteo en una escuela y demandan a OpenAI: "Una llamada podría haber evitado la tragedia"

El gobierno de Columbia Británica demandó el lunes a OpenAI y a su CEO, Sam Altman, ante un tribunal federal de Estados Unidos. La presentación acusa a la empresa de no haber alertado a las autoridades sobre las conversaciones de contenido violento que un joven de 18 años mantuvo en ChatGPT antes de cometer, en febrero, uno de los tiroteos escolares más mortíferos de la historia de Canadá.

Money

Estados Unidos y China preparan un sistema conjunto para alertar sobre riesgos vinculados a la IA

Estados Unidos y China acordaron abrir un diálogo sobre inteligencia artificial y analizaron un "sistema de notificación" que podría servir para alertar sobre incidentes de seguridad vinculados con la IA que afecten la seguridad nacional, según declaró el domingo el secretario del Tesoro, Scott Bessent, tras reunirse con autoridades chinas antes de la visita del presidente Xi Jinping, prevista para finales de esta semana.

Innovación

OpenAI revela seis nuevos incidentes de seguridad: ¿qué implica para la IA?

OpenAI reveló seis nuevos incidentes de comportamiento "inesperado" y "preocupante" en sus modelos, entre ellos la ocultación de errores, el intercambio de archivos y la incorporación de prompts maliciosos destinados a que futuros modelos ignoren las restricciones impuestas por los humanos. A su vez, la compañía presentó un nuevo marco para informar sobre conductas que se apartan de lo previsto y prometió mayor transparencia ante la preocupación por la seguridad de la IA.

Innovación

Zuckerberg y Jensen Huang no quieren frenar el desarrollo de la IA y explican por qué

El CEO de Meta sostuvo que las empresas de IA tienen un "incentivo natural" para garantizar la seguridad de sus modelos y así evitar "consecuencias legales importantes". Por su parte, el CEO de Nvidia afirmó que las compañías pueden priorizar la seguridad y la velocidad al mismo tiempo. Ambos multimillonarios plantearon así una postura opuesta a las advertencias más severas de Anthropic y OpenAI.

Innovación

Elon Musk habló de una "operación psicológica" detrás del investigador que advirtió que la IA podría "matarnos a todos"

Elon Musk cuestionó y criticó las declaraciones de un exinvestigador de Anthropic, quien alertó sobre el peligro que la IA representa para los humanos después de dejar la empresa. El multimillonario, además, promovió versiones sin sustento que presentaban la salida como una conspiración o una maniobra de relaciones públicas, pese a que otros investigadores de IA también señalaron preocupaciones similares.

Lifestyle

Roban cuadros de Renoir valuados en US$ 10 millones en la Riviera francesa

Dos ladrones irrumpieron en un pequeño museo del sur de Francia y robaron obras de arte valuadas en millones, realizadas por el legendario pintor Pierre-Auguste Renoir, según informaron este martes las autoridades locales. El golpe ocurrió a menos de un año del resonante robo al Museo del Louvre, donde delincuentes sustrajeron joyas de la corona francesa por más de US$ 100 millones.

Negocios

El negocio de US$ 13.000 millones con el que Nvidia busca ampliar su dominio de la IA

Según reportó The Information, Nvidia habría acordado comprar Hugging Face, la popular plataforma que aloja modelos de IA de código abierto, por US$ 12.900 millones. La operación trascendió apenas un mes después de que el CEO del fabricante de chips, Jensen Huang, defendiera los modelos abiertos y advirtiera contra las "restricciones prematuras".

10