Nuevo
El gobierno de California, Gwen Newsome (D), firmó un proyecto de ley el lunes, que ha aplicado nuevos guardianes sobre cómo los chats de inteligencia artificial (IA) interactúan con los niños y manejan el suicidio y las autolesiones.
La SB -243, que depuró la legislatura estatal a mediados de septiembre, instó a los desarrolladores de «compañeros de chat» a evitar que sus modelos desarrollen contenido sobre suicidio, suicidio o daño a sí mismos, e instruir a los consumidores sobre servicios de crisis si es necesario.
Para ello, los chats también deben publicar notificaciones «claras y claras» de que han nacido artificialmente si alguien puede ser engañado haciéndoles creer que están interactuando con otro ser humano.
Al hablar con niños, a los chatbots habrá que recordarles cada tres horas que no son humanos. Los desarrolladores también deben evitar que sus chats desarrollen contenido sexualmente claro en conversaciones con menores.
«Las tecnologías emergentes como los chats y las redes sociales pueden alentar, educar y comunicar, pero sin verdaderos guardias, la tecnología puede ser explotada, engañosa y puesta en peligro», dijo en un comunicado.
Y añadió: «Hemos visto algunos ejemplos realmente aterradores y trágicos de jóvenes que están dañando la tecnología desorganizada, y no lo toleraremos, mientras las empresas continúen sin los límites y la responsabilidad necesarios». «Podemos seguir orientándonos en inteligencia artificial y tecnología, pero debemos asumir esta responsabilidad: proteger a nuestros niños en todos los sentidos. La seguridad de nuestros niños no está a la venta».
La familia de un adolescente de California demandó abiertamente a finales de agosto, alegando que Chat GPT había alentado a su hijo de 16 años a suicidarse. El padre, Matthew Rhine, testificó ante un panel del Senado el mes pasado, así como otros dos padres que acusaron a los chat boats de suicidarse o dañar a sus hijos.
Las crecientes preocupaciones sobre cómo los chats de IA hablan con los niños obligaron a la Comisión Federal de Comercio (FTC) a iniciar una investigación sobre el tema y solicitaron información a varias empresas tecnológicas líderes.
Sentido. Josh Holly (R-Mo.) y Dick Dorbon (DIL.) También aprobaron una legislación a fines del mes pasado, que clasificará los barcos de chat de IA como un producto que permitirá a los consumidores dañinos presentar reclamos de responsabilidad.
La medida de California es la última de una serie de proyectos de ley relacionados con la tecnología e inteligencia artificial firmados por Newsom por Newsom. El lunes también aprobó medidas para colocar una etiqueta de advertencia en las plataformas de redes sociales y la verificación de la edad a través de sistemas operativos y tiendas de aplicaciones.
A finales de septiembre, también firmó la SB53, que exige que los principales modelos de IA publiquen el marco, diciéndoles cómo evalúan y reducen los riesgos destructivos.
