Un nuevo informe sobre un ataque informáticoNovia de IA”El sitio web afirma que muchos usuarios están intentando (y posiblemente logrando) usar el robot conversacional simular horribles abusos sexuales de niños.
El 8 de octubre, 404 Medios informó que el sitio web de chatbots Muah.ai, que permite a los usuarios crear sus propios chatbots centrados en el sexo y potenciados por IA “sin censura”, había sido pirateado y se había robado una gran cantidad de datos de los usuarios. Estos datos revelan, entre otras cosas, cómo los usuarios de Muah interactuaban con los chatbots.. 404 Medios, vio los datos robados y escribe que, en muchos casos, los usuarios supuestamente estaban intentando crear chatbots que pudieran interpretar el papel de niños.
“Fui al sitio para masturbarme (en un escenario *adulto*, para ser claros) y noté que [Muah.ai] parecía estar bastante mal armado”, explicó el hacker. 404 Medios. “Se trata básicamente de un puñado de proyectos de código abierto unidos con cinta adhesiva. Empecé a investigar y encontré algunas vulnerabilidades con relativa rapidez. Al principio, era principalmente curiosidad, pero decidí ponerme en contacto con [404 Medios] una vez vi lo que había en la base de datos.”
Según 404 MediosAlgunos de los datos pirateados contienen indicaciones y mensajes explícitos sobre el abuso sexual de niños pequeños. El medio informa que vio una indicación que pedía una orgía con “bebés recién nacidos” y “niños pequeños”. 404 Medios y el hacker no pudo confirmar si Muah.ai realmente generó lo que los usuarios intentaban obtener, pero es una mirada oscura a lo que muchas personas están tratando de crear usando controvertidas herramientas de generación de IA.
404 Medios Dice que el administrador de Muah.ai, conocido como Harvard Han, detectó el ataque la semana pasada. La persona que administra el sitio del chatbot de IA también afirmó que el ataque fue “financiado” por competidores de chatbots en la “industria de IA sin censura”. 404 Medios pidió pruebas de esta afirmación y no recibió ninguna. El hacker le dijo al medio que no trabajan en la industria de la IA.
“Contamos con un equipo de moderación que suspende y elimina TODOS los chatbots relacionados con niños en nuestra galería de tarjetas, Discord, Reddit, etc.", dijo Han. La galería de tarjetas es la lista de chatbots de IA creados por la comunidad disponibles en el sitio.
Como lo señala 404 MediosMuah.ai afirma ser una plataforma de chatbot de IA “sin censura”, que permite crear conversaciones y fotos explícitas. Sin embargo, también afirma prohibir todo contenido para menores de edad según su sitio web. Cuando dos personas publicaron sobre un personaje de IA supuestamente menor de edad en el servidor de Discord del sitio, 404 Medios reclama un moderador a los usuarios que no “publicen esa mierda” aquí, sino que se envíen DM unos a otros o algo así.
Es otro ejemplo de cómo Herramientas de generación de IA y los chatbots son cada vez más fáciles de desarrollar y compartir en línea, mientras que Las leyes y regulaciones en torno a estas nuevas piezas de tecnología están muy atrasadas.Es un combinación desagradable y Uno que probablemente solo empeorará a medida que las herramientas de generación de IA se vuelven más fáciles, más baratas y más rápidas.
.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.