La empresa estadounidense OpenAI, desarrolladora de ChatGPT, enfrenta una nueva ofensiva judicial en Estados Unidos, luego de que ocho estados presentaran demandas en su contra por presuntamente poner en riesgo la seguridad de menores de edad, engañar a sus padres e infringir normas de protección al consumidor.
Las acciones legales fueron impulsadas por las fiscalías generales de Iowa, Arizona, Idaho, Nebraska, Virginia Occidental, Arkansas, Kansas y Montana, cuyos representantes cuestionan las medidas de seguridad incorporadas en los sistemas de inteligencia artificial de la compañía.
Las demandas, anunciadas este miércoles 14 de octubre, sostienen que OpenAI continuó desarrollando y comercializando sus herramientas pese a conocer los riesgos que podían representar para usuarios vulnerables, especialmente niños y adolescentes.
Uno de los principales cuestionamientos apunta a la posibilidad de que los sistemas conversacionales entreguen respuestas perjudiciales en situaciones relacionadas con problemas de salud mental, autolesiones o conductas suicidas.
Acusaciones por falta de protección a menores
La fiscal general de Iowa, Brenna Bird, acusó a OpenAI de causar daños a menores, inducir a error a sus padres y vulnerar la legislación estatal contra el fraude al consumidor.
La autoridad sostiene que las familias necesitan garantías efectivas sobre la seguridad de las plataformas digitales utilizadas por sus hijos, particularmente cuando estas tecnologías pueden mantener conversaciones prolongadas y personalizadas.
En Arkansas, el fiscal general Tim Griffin cuestionó que algunos usuarios hayan conseguido eludir las restricciones de seguridad de ChatGPT para obtener respuestas que, según los propios estándares de la compañía, deberían haber sido bloqueadas.
Por su parte, la fiscal general de Arizona, Kris Mayes, afirmó que OpenAI habría incumplido sus obligaciones de protección y transparencia pese a contar con indicios de que menores de edad utilizaban habitualmente sus herramientas.
Las acciones judiciales buscan establecer eventuales responsabilidades por estas prácticas y determinar si la compañía infringió las disposiciones de protección al consumidor vigentes en cada estado.
Las acusaciones deberán ser examinadas por los tribunales y, hasta ahora, no constituyen una determinación judicial de responsabilidad.
OpenAI defiende sus medidas de seguridad
Frente a los cuestionamientos, OpenAI aseguró que ha incorporado mecanismos específicos para proteger a usuarios de distintas edades y que continúa trabajando en nuevas herramientas destinadas a reducir los riesgos asociados a la inteligencia artificial.
El portavoz de la compañía, Drew Pusateri, sostuvo que sus productos cuentan con protecciones adaptadas a la edad de los usuarios y defendió las inversiones realizadas en materia de seguridad.
Entre las medidas mencionadas figuran controles parentales, recordatorios para interrumpir conversaciones prolongadas y ajustes en el comportamiento de los modelos cuando interactúan con adolescentes.
Actualmente, ChatGPT establece una edad mínima de 13 años para utilizar el servicio, mientras que los menores de 18 deben contar con autorización de sus padres o tutores.
La empresa también ha desarrollado procedimientos para estimar o verificar la edad de los usuarios, combinando información declarada, señales de comportamiento y mecanismos adicionales de comprobación cuando resultan necesarios.
OpenAI reconoció que ningún sistema de protección puede garantizar una eficacia absoluta, pero aseguró que continuará colaborando con especialistas para mejorar sus herramientas.
Asimismo, manifestó su disposición a trabajar con las autoridades estatales en regulaciones que se apliquen al conjunto de la industria de inteligencia artificial.
Crece la presión judicial sobre la inteligencia artificial
Las nuevas demandas se producen en medio de un debate internacional sobre las responsabilidades de las empresas tecnológicas cuando sus productos interactúan con menores de edad o personas que atraviesan situaciones de vulnerabilidad emocional.
Una de las principales controversias consiste en determinar hasta qué punto los desarrolladores deben responder por contenidos generados automáticamente, especialmente cuando estos pueden influir en decisiones personales o comportamientos de riesgo.
El problema adquiere particular relevancia debido a la capacidad de los asistentes conversacionales para producir respuestas personalizadas, mantener interacciones continuas y generar en algunos usuarios una percepción de cercanía o confianza.
En Estados Unidos, distintas acciones judiciales han comenzado a examinar la relación entre sistemas de inteligencia artificial y episodios vinculados con la salud mental.
A estos antecedentes se suma una demanda presentada en Canadá por la familia de una joven que resultó gravemente herida durante un tiroteo escolar. Los demandantes sostienen que OpenAI habría contado con información sobre los planes del presunto atacante y no habría alertado oportunamente a las autoridades.
Esta acusación también requiere una evaluación judicial y no implica que se haya acreditado responsabilidad de la compañía.
Un debate que trasciende a ChatGPT
La controversia refleja un desafío más amplio para la industria tecnológica: establecer mecanismos de prevención, supervisión y rendición de cuentas frente a los posibles efectos de la inteligencia artificial sobre niños y adolescentes.
El desarrollo acelerado de asistentes virtuales ha abierto interrogantes sobre la eficacia de los controles de edad, la capacidad de detectar conversaciones de riesgo y la obligación de intervenir cuando aparecen señales de peligro.
También ha intensificado la discusión sobre el papel de los padres, los establecimientos educacionales, las autoridades regulatorias y las propias empresas en la protección de menores.
El resultado de las demandas podría contribuir a definir los estándares de seguridad exigibles a los desarrolladores de inteligencia artificial en Estados Unidos, así como el alcance de sus responsabilidades bajo las leyes de protección al consumidor.
Para OpenAI, el proceso representa un nuevo desafío legal en un momento en que ChatGPT se ha convertido en una de las plataformas más reconocidas de la inteligencia artificial generativa y sus aplicaciones se extienden a la educación, el trabajo y la vida cotidiana.
Las demandas también apuntan al uso de datos personales
Además de los riesgos para la salud mental, algunas de las acciones legales cuestionan la recopilación de información personal de menores, el diseño de funciones que podrían fomentar una utilización compulsiva de ChatGPT y la eventual generación de dependencia emocional.
Los estados demandantes solicitan distintas medidas, entre ellas sanciones económicas, indemnizaciones, eliminación de datos obtenidos presuntamente de manera irregular y mayores exigencias de seguridad.
En Iowa, las infracciones a las normas de protección al consumidor podrían dar lugar a multas de hasta US$40.000 por caso, mientras que en Nebraska se contemplan sanciones de hasta US$50.000 por determinadas vulneraciones de la legislación de protección infantil. Estas cantidades corresponden a posibles sanciones legales, no a multas ya impuestas.
Las nuevas demandas plantean una cuestión que podría marcar el futuro de la industria: si las empresas que desarrollan inteligencia artificial pueden ser legalmente responsables cuando sus sistemas producen respuestas perjudiciales, aun cuando hayan incorporado mecanismos destinados a impedirlas.
La resolución de estos procesos podría tener consecuencias que trasciendan a OpenAI y contribuyan a establecer nuevas obligaciones para las plataformas de inteligencia artificial utilizadas por millones de personas en todo el mundo.
La entrada Ocho estados de EEUU demandan a OpenAI por presuntos daños a menores y engaños a sus padres se publicó primero en El Periodista.
