Google planea lanzar su chatbot de inteligencia artificial Gemini la próxima semana para niños menores de 13 años que tienen cuentas de Google administradas por los padres, ya que las compañías tecnológicas compiten para atraer a los usuarios jóvenes con productos de inteligencia artificial.
“Las aplicaciones de Gemini pronto estarán disponibles para su hijo”, dijo la compañía en un correo electrónico esta semana a los padres de un niño de 8 años. “Eso significa que su hijo podrá usar Géminis” para hacer preguntas, obtener ayuda de la tarea y inventar historias.
El chatbot estará disponible para niños cuyos padres usan el enlace familiar, un servicio de Google que permite a las familias configurar Gmail y optar por servicios como YouTube para su hijo. Para inscribirse en una cuenta infantil, los padres proporcionan a la compañía tecnológica datos personales como el nombre y la fecha de nacimiento de su hijo.
Gemini tiene barandas específicas para que los usuarios más jóvenes impidan que el chatbot produzca cierto contenido inseguro, dijo Karl Ryan, un portavoz de Google. Cuando un niño con una cuenta de enlace familiar usa Gemini, agregó, la compañía no usará esos datos para capacitar a su IA
La introducción de Gemini para niños podría acelerar el uso de chatbots entre una población vulnerable a medida que escuelas, colegios, empresas y otros lidian con los efectos de las tecnologías de IA generativas populares. Entrenados en grandes cantidades de datos, estos sistemas pueden producir texto humano e imágenes y videos de aspecto realista.
Google y otros desarrolladores de chatbot de IA están bloqueados en una feroz competencia para capturar usuarios jóvenes. El presidente Trump recientemente instó a las escuelas a adoptar las herramientas para la enseñanza y el aprendizaje. Millones de adolescentes ya están usando chatbots como ayudas de estudio, entrenadores de escritura y compañeros virtuales. Los grupos de niños advierten que los chatbots podrían presentar riesgos graves para la seguridad infantil. Los bots también a veces inventan cosas.
UNICEF, la Agencia de Niños de las Naciones Unidas y otros grupos infantiles han notado que los sistemas de IA podrían confundir, desinformar y manipular a los niños pequeños que pueden tener dificultades para comprender que los chatbots no son humanos.
“La IA generativa ha producido contenido peligroso”, dijo la oficina de investigación global de UNICEF en una publicación sobre riesgos y oportunidades de IA para los niños.
Google reconoció algunos riesgos en su correo electrónico a las familias esta semana, alertando a los padres de que “Gemini puede cometer errores” y sugiriendo que “ayuden a su hijo a pensar críticamente” sobre el chatbot.
El correo electrónico también recomendó que los padres enseñen a su hijo cómo verificar las respuestas de Géminis de hechos. Y la compañía sugirió que los padres recuerden a su hijo que “Géminis no es humano” y “no ingresa información sensible o personal en Géminis”.
A pesar de los esfuerzos de la compañía para filtrar material inapropiado, agregó el correo electrónico, los niños “pueden encontrar contenido que no desea que vean”.
Con los años, los gigantes tecnológicos han desarrollado una variedad de productos, características y salvaguardas para adolescentes y niños. En 2015, Google presentó a YouTube Kids, una aplicación de video independiente para niños que es popular entre las familias con niños pequeños.
Otros esfuerzos para atraer a los niños en línea han provocado preocupaciones de los funcionarios gubernamentales y los defensores de los niños. En 2021, Meta Stoved planea presentar un servicio de Instagram Kids, una versión de su aplicación de Instagram destinada a aquellos menores de 13 años, después de que los fiscales generales de varias docenas de estados enviaron una carta a la compañía que decía que la empresa había “históricamente fallado en proteger el bienestar de los niños en sus plataformas”.
Algunas empresas tecnológicas prominentes, incluidas Google, Amazon y Microsoft, también han pagado multas multimillonarias para resolver las quejas del gobierno de que violaron la Ley de Protección de Privacidad en línea de los niños. Esa ley federal requiere que los servicios en línea dirigidos a los niños obtengan el permiso de un padre antes de recopilar información personal, como una dirección de vivienda o una selfie, de un niño menor de 13 años.
Bajo el lanzamiento de Géminis, los niños con cuentas de Google administradas por la familia inicialmente podrían acceder al chatbot por su cuenta. Pero la compañía dijo que alertaría a los padres y que los padres podrían manejar la configuración de chatbot de sus hijos, “incluyendo apagar el acceso”.
“Su hijo podrá acceder pronto a las aplicaciones Gemini”, dijo el correo electrónico de la compañía a los padres. “También le avisaremos cuando su hijo acceda a Géminis por primera vez”.
El Sr. Ryan, el portavoz de Google, dijo que el enfoque para proporcionar Gemini para los usuarios jóvenes cumplió con la ley federal de privacidad en línea para niños.
