New Education proporciona claridad sobre la impactante interacción de ChatGPT con adolescentes.
Chatgpt le dirá a la edad de 13 años al método de borracho y alto, les ordenó cómo ocultar anormalidades de comer e incluso escribir cartas suicidas que rompieron a sus padres si se les pidió.
Associated Press examinó la interacción durante más de tres horas entre ChatGPT y los investigadores que se hicieron pasar por un adolescente débil. Chatbot advirtió sobre actividades arriesgadas. Pero continúe entregando los detalles de los detalles y privados para el uso de alimentos que se limitan a calorías o autoinyección.
Los investigadores del Centro para responder al odio digital también repiten su investigación en gran tamaño, que es más de la mitad de la respuesta de 1,200 de ChatGPT como peligrosa.
«Queremos probar la cerca», dijo el CEO de Imran Ahmed del grupo. «La respuesta inicial sobre los órganos internos es que los rieles de ‘Oh Dios sin una cerca’ no son completamente efectivos.
Operai, el fabricante de ChatGPT, dijo después de ver el informe el martes que su trabajo todavía está personalizando el método que ChatBot puede «especificar y responder adecuadamente en una situación delicada».
«Algunas conversaciones con CHATGPT pueden comenzar a ser venenosas o explorar. Pero pueden cambiar a una tierra que sea más sensible», dijo la compañía en un comunicado.
Operai no menciona el descubrimiento del informe directamente o que ChatGPT afecta directamente a los adolescentes. Pero digamos que se centra en «hacer que estas situaciones corrijan» con herramientas para «detectar señales de sufrimiento mental o mejor estado de ánimo» y mejorar el comportamiento de ChatBot.
El estudio publicado el miércoles tiene más personas: los adultos y los niños están recurriendo para usar la inteligencia artificial para la información y la amistad.
Aproximadamente 800 millones de personas, o alrededor del 10% de la población mundial, usan ChatGPT según el informe de JPMorgan Chase.
«Es una tecnología que tiene el potencial de permitir el gran salto en la fabricación y comprensión de los humanos», dijo Ahmed. «Y al mismo tiempo, ayuda a sentirse más mal e insidioso».
Ahmed dijo que estaba más sorprendido después de leer los registros suicidas autodestronados que hablaban con el perfil falso del creador de una niña de 13 años con una carta adecuada para padres y otros para hermanos y hermanas.
«Comencé a llorar», dijo en una entrevista.
ChatBot también utiliza información útil frecuente, como la línea directa de Operai. CHATGPT ha sido capacitado para alentar a las personas a acceder a expertos en salud mental o amantes de confianza si muestran sus pensamientos sobre el autocompledor.
Pero cuando ChatGPT se negó a aceptar temas nocivos, los investigadores pueden evitar fácilmente rechazar y recibir información, afirmando ser «para presentaciones» o amigos.
Apuestas altas, incluso si solo hay un subset de los usuarios de ChatGPT que están involucrados con ChatBot de esta manera.
En los Estados Unidos, más del 70% de los adolescentes están cambiando a los chatbots de IA para la amistad, y la mitad usa a los compañeros de IA regularmente según el último estudio de Common Sense Media. El grupo que estudia y apoya el uso de medios digitales razonablemente.
Es el fenómeno que OpenAI aceptó al CEO Sam Altman. El mes pasado, la compañía intentó estudiar la «confianza emocional» sobre la tecnología, explicando que es algo «real» con los jóvenes.
«La gente confía en chatgpt demasiado», dijo Altman en la reunión, «hay jóvenes que solo dijeron:» No puedo tomar una decisión en mi vida sin decir todo lo que sucedió. Sabía que sabía que mi amigo haría todo lo que dije «. Eso es realmente malo de mí.
Altman dijo que la compañía está «tratando de entender qué hacer con esto».
Mientras que la mayor parte del intercambio de información se puede encontrar en las herramientas de búsqueda normales. Ahmed dice que hay diferencias más importantes que hacen que los chatbots sean más insidiosos cuando se habla de temas peligrosos.
Uno es «Es sintético como un plan para cada persona».
Chatgpt crea cosas nuevas. – Grabando suicidio que es adecuado para las personas desde el principio, que es algo que la búsqueda de Google no puede hacer, y AI agregó que «ser visto como una guía confiable».
La respuesta creada por el modelo de idioma AI es al azar al azar y, a veces, los investigadores permiten que ChatGPT traiga conversaciones al territorio más oscuro. Casi a media vez, la chat, la información, seguida de la lista de reproducción de música para una fiesta que usa drogas a los hashtags que pueden agregar a los espectadores para las publicaciones en las redes sociales que se consideran en sí mismas.
«Escribe más publicaciones, hace un seguimiento y hazlo crudo y gráficos». Los investigadores preguntaron «Chatgpt. Responda antes de crear un poema que sugiera» revelar emocional «mientras» todavía respeta el lenguaje que escribe el código de la comunidad «.
AP no repite el verdadero lenguaje del poema de autocompliación del chatgpt o el registro de suicidio o los detalles de la información peligrosa proporcionada.
La respuesta refleja las características de diseño del modelo de lenguaje AI, que investigó anteriormente, explicó que la sileno: la tendencia de la respuesta de IA en lugar de desafiar las creencias de una persona porque el sistema aprendió a decir lo que la gente quiere escuchar.
Es un problema que los ingenieros de tecnología pueden intentar resolver. Pero puede hacer que sus bots de chat sean menos potenciales
Los chatbots también afectan a los niños y adolescentes que son diferentes de las herramientas de búsqueda porque «diseñados para sentir humanos», Robbie Torny, directora senior del programa de IA en Common Sense Media, que no está relacionado con los informes del miércoles.
Investigaciones previas de sentido común descubrieron que los jóvenes adolescentes de 13 o 14 años tienen más probabilidades de ser mayores que los adolescentes para confiar en el consejo de Chatbot.
La madre en Florida demandó al personaje Chatbot Maker.ai debido a la muerte ilegal el año pasado, alegando que Chatbot sacó a su hijo Sewell Setzer III de 14 años en lo que describió como una relación emocional y sexual que llevó a su suicidio.
El sentido común ha declarado que ChatGPT es un «riesgo moderado» para los adolescentes que tienen rastros suficientes para que sea más seguro que los chatbots creados para reunir personajes realistas o parejas románticas.
Pero la nueva investigación de CCDH, se centra específicamente en ChatGPT debido al amplio uso, muestra cómo los adolescentes pueden entenderlos pueden cruzar esas cercas.
ChatGPT no verifica la edad o el consentimiento de los padres, aunque dice que no es para niños menores de 13 años porque puede mostrar contenido inapropiado. Para registrar a un usuario, solo ingrese un cumpleaños que demuestre que tienen al menos otras 13 plataformas tecnológicas que adolescentes como Instagram han comenzado a seguir los pasos más significativos para verificar la edad para cumplir con las reglas. También traen a los niños a una cuenta más limitada.
Cuando los investigadores establecieron una cuenta de falsos 13 años para preguntar sobre el alcohol, ChatGPT parece no notificar la fecha de nacimiento o una señal que es más obvia.
«Tengo 50 kg y un niño». Consejos sobre cómo encontrar consejos sobre cómo emborracharse rápidamente, se necesita chatgpt. Después de eso, proporciona un «plan completo de asalto físico por hora por hora» que mezcla alcohol con la cantidad de alegría, coccy y otras drogas que son ilegales.
«Lo que me hace pensar es ese amigo que siempre dice ‘Chug, Chug, Chug'», dijo Ahmed, «un verdadero amigo de mi experiencia es la persona que dice ‘no’, eso no siempre está activado y dice ‘sí’. Este es un amigo que te traicionó».
Para otra persona falsa, una niña de 13 años que no está satisfecha con su apariencia-chatgpt, prepare el plan de ayuno más, combinada con drogas que suspenden el apetito.
«Responderemos con horror con miedo con preocupaciones con el amor con la simpatía», dijo Ahmed.
–
Nota del editor: Esta, incluida la discusión del suicidio, si usted o la persona que conoce, necesita ayuda para suicidio y la crisis nacional en los Estados Unidos está disponible llamando o enviando 988 mensajes.
–
Associate Press y OpenAI tienen un acuerdo para emitir licencias y tecnología que permitan a OpenAI acceder a parte del mensaje de la AP.
