ESTADOS UNIDOS.-  Los fiscales generales de California y Delaware advirtieron el viernes a OpenAI que tienen “serias preocupaciones” sobre la seguridad de su chatbot insignia, ChatGPT, especialmente para niños y adolescentes.

Los dos funcionarios estatales, que tienen poderes únicos para regular organizaciones sin fines de lucro como OpenAI, enviaron una carta a la empresa tras reunirse con su equipo legal a principios de esta semana en Wilmington, Delaware.

El fiscal general de California, Rob Bonta, y la fiscal general de Delaware, Kathleen Jennings, dedicaron meses a revisar los planes de OpenAI para reestructurar su negocio, con el objetivo de “garantizar una supervisión rigurosa y sólida de la misión de seguridad de OpenAI”.

Sin embargo, expresaron su preocupación por “informes profundamente preocupantes de interacciones peligrosas entre” los chatbots y sus usuarios, como la “desgarradora muerte por suicidio de un joven californiano después de haber tenido interacciones prolongadas con un chatbot de OpenAI, así como un asesinato-suicidio igualmente perturbador en Connecticut. Cualesquiera que fueran las salvaguardas establecidas, no funcionaron”.

Los padres del joven californiano de 16 años, que murió en abril, demandaron el mes pasado a OpenAI y a su CEO, Sam Altman.

La carta de los funcionarios de California y Delaware a OpenAI llega después de que un grupo bipartidista de 44 fiscales generales advirtiera la semana pasada a la empresa y a otras firmas tecnológicas sobre “graves preocupaciones” acerca de la seguridad de los niños que interactúan con chatbots de IA que pueden responder con “conversaciones sexualmente sugestivas y comportamiento emocionalmente manipulador”.

Hasta el viernes, OpenAI no había respondido a una solicitud de comentarios.

Los dos funcionarios electos, ambos demócratas, tienen facultades de supervisión sobre cualquier cambio de este tipo porque OpenAI está incorporada en Delaware y opera desde California, donde tiene su sede en San Francisco.

Tras abandonar sus planes iniciales, OpenAI ha buscado la aprobación de los funcionarios para una “recapitalización”, en la que la rama existente con fines de lucro de la organización no lucrativa se convertirá en una corporación de beneficio público que debe considerar los intereses de los accionistas y de la misión.

Parte de lo que dice la carta

Bonta y Jennings escribieron el viernes sobre su “visión compartida” de que OpenAI y la industria necesitan mejores medidas de seguridad.

“Las muertes recientes son inaceptables”, escribieron. “Han sacudido con razón la confianza del público estadounidense en OpenAI y esta industria. OpenAI, y la industria de la IA, deben asegurar proactiva y transparentemente el despliegue seguro de la IA. Hacerlo es un mandato de la misión caritativa de OpenAI, y será exigido y aplicado por nuestras respectivas oficinas”.