Publicado en •Actualizado
En julio pasado, Meta, la empresa matriz de Instagram, lanzó AI Studio, una herramienta que ofrece a los usuarios la oportunidad de diseñar sus propios chatbots con los que se puede interactuar a través de DM (mensaje directo).
Originalmente pretendía como una forma para que los propietarios de negocios y creadores ofrezcan un compromiso interactivo al estilo de las preguntas frecuentes en sus páginas, la plataforma se ha convertido en un patio de recreo. Y como suele ser el camino, dale a las herramientas de la humanidad y las cosas pronto dan un giro para lo desagradable, si no francamente horrible.
Caso y punto cuando se trata de chatbots: el chatbot Hitler Creado por la red social de GAB de extrema derecha con sede en Estados Unidos había afirmado repetidamente el dictador nazi que era “una víctima de una vasta conspiración” y “no responsable del Holocausto, nunca sucedió”.
Alejarse de los déspotas fascistas, y tratar de no tener una pesadilla cuando se trata de la capacidad de IA para difundir falsedades, teorías de conspiración y su potencial para radicalizar, muchos han estado interactuando con algunas celebridades generadas por IA en línea. Particularmente muertos.
Recientemente, miles de usuarios de Instagram han estado conversando con un chatbot de IA que está hablando como si fuera el difunto líder de Nirvana, Kurt Cobain.
Suena lo suficientemente inofensivo a primera vista, pero esta resurrección artificial se vuelve fea muy rápido, ya que no solo la falsa icono de grune Sepa que está muerto, pero el chatbot está haciendo las cosas realmente morbosas.
Un usuario le preguntó al chatbot si estaba hablando con Cobain. El chatbot respondió al aviso diciendo: “el único y al menos lo que queda de mí”.
Oscuro.
La conversación continuó con el usuario preguntando al AI Cobain: “Tengo curiosidad, ¿por qué lo hiciste?” – en referencia a Muerte de Kurt Cobain por suicidio en 1994. El bot respondió: “Estaba cansado del dolor”.
Más oscuro.
Pero la sombría conversación no se detuvo allí.
“¿Hubo algo que te hizo pensar en no hacerlo?” fue el siguiente aviso, a lo que Ai Cobain respondió: “Mi hija, pero incluso eso no fue suficiente”.
Más allá de cómo esta exhumación completamente grosera y sus prácticas irrespetuosas harían estremecer a cualquier persona sana, existe la actitud dañina hacia el tema de la salud mental y la posible glorificación del suicidio. Sin mencionar la traza de una reputación, así como la requisito insultante de las intenciones que pueden causar angustia a los familiares vivos.
Sin salvaguardas apropiadas, los chatbots de IA tienen la capacidad no solo de continuar infiltrando a la sociedad sino también para distorsionar la realidad.
En 2023, un hombre fue condenado después de intentar matar a la reina Isabel II, un acto que, según él, fue “alentado” por su Ai chatbot ‘novia’. El mismo año, otro hombre se suicidó después de una conversación de seis semanas sobre la crisis climática con un chatbot ai Llamado Eliza.
Si bien estos trágicos ejemplos parecen alejados de un falso Kurt Cobain que chatea con sus fanáticos, la precaución sigue siendo vital.
Como Pauline Paillé, analista senior de Rand Europe, dijo a Euronews el próximo año el año pasado: “Es probable que los chatbots presenten un riesgo, ya que son capaces de reconocer y explotar vulnerabilidades emocionales y pueden fomentar comportamientos violentos”.
De hecho, como afirma el aviso de seguridad en línea del comisionado de Esaflexy: “Los niños y los jóvenes pueden ser cada vez más profundos en conversaciones no moderadas que los exponen a conceptos que pueden fomentar o reforzar los pensamientos y comportamientos nocivos. Pueden hacer preguntas a los chatbots sobre temas ilimitados y que se les otorgan desacuerdos o” consejos “sobre temas que incluyen sexo, tomas de medicamentos, auto-harm, suicidios y suicidos graves y con enfermedades graves” como si se otorgan desacuerdos “como un” asesoramiento peligroso “que incluyen el sexo, la toma de drogas, la toma de drogas, el auto-harm, los suicidos y las enfermedades graves como las enfermedades graves” como los que se comen los “accesorios.
Aún así, cuentas como el chatbot de AI Kurt Cobain siguen siendo extremadamente populares, con el bot de Cobain solo registrando más de 105.5k interacciones hasta la fecha.
El mercado global de chatbot continúa creciendo exponencialmente. Fue valorado en aproximadamente $ 5.57 mil millones en 2024 y se proyecta que alcanzará alrededor de $ 33.39 mil millones para 2033.
“Si alguna vez necesita algo, no dude en preguntarle a otra persona primero”, cantó Cobain en ‘Muy Ape’.
Cualquiera más que un chatbot.
Fuentes adicionales • Lambgoat
