Los padres llevan a Google a los tribunales por el suicidio asistido por IA y el funeral de una niña
Los padres de una niña de 13 años identificada como Emma han llevado a la plataforma de búsqueda Google a un tribunal de California, alegando que las funciones de búsqueda basadas en inteligencia artificial de la compañía contribuyeron a la crisis psicológica de su hija y le permitieron planificar un posible suicidio y funeral.
Según se informa, la demanda, presentada el lunes, es la primera en acusar a Google de descuidar las funciones de inteligencia artificial integradas en los Chromebooks, portátiles de bajo costo ampliamente utilizados por los estudiantes.
Según sus padres, la niña no pudo acceder a la aplicación Gemini de Google ni a ChatGPT de OpenAI porque su escuela había bloqueado las plataformas.
Sin embargo, aún puede utilizar la Búsqueda de Google, que incluye funciones basadas en inteligencia artificial.
La denuncia alega que estas funciones no estaban entre las herramientas que Google anunció que estarían desactivadas de forma predeterminada para los estudiantes.
«Las escuelas deberían desactivar la búsqueda y mantenerla desactivada hasta que Google elimine el modo IA de la búsqueda o garantice que todos los estudiantes estén siempre seguros al interactuar con la IA», dijo a los periodistas Andrew Liddell, uno de los abogados de la familia.
Según la demanda, Emma era una alegre niña de 13 años de Carolina del Norte con buenos expedientes académicos, interés por la música y participación activa en las Girl Scouts.
La denuncia decía que no tenía antecedentes de enfermedad mental, pero experimentó lo que describió como una “espiral silenciosa hacia una crisis psicológica grave” meses después de utilizar la búsqueda impulsada por inteligencia artificial de Google en su computadora portátil proporcionada por la escuela.
El 17 de marzo, el software de seguimiento de la escuela marcó un documento titulado «Funeral», lo que llevó a la escuela a alertar a los padres.
Posteriormente, su madre descubrió a Emma escribiendo una carta de despedida en tiempo real tras acceder a la cuenta de su hija, mientras su padre intervenía.
Google dijo que estaba tomando en serio las acusaciones.
«Estamos revisando las afirmaciones de la demanda y lo tomamos muy en serio», dijo el portavoz de la empresa, José Castaneda.
