Los senadores Blumenthal y Hawley preguntan a Google por el uso de IA en las escuelas

El miércoles 21 de octubre, los senadores estadounidenses Josh Hawley (republicano) y Richard Blumenthal (demócrata) pidieron explicaciones a Sundar Pichai, consejero delegado de Alphabet y Google, por lo que llaman el empuje agresivo de la empresa para llevar sus productos de IA a los niños en los colegios. En la carta sostienen que ese empuje pone en peligro los resultados académicos y el bienestar de toda una generación.

Según la carta, más de 150 millones de alumnos de todo el mundo usan Google Classroom, la plataforma de Google para gestionar las clases, y el 93 % de los distritos escolares de EE. UU. tenía previsto comprar Chromebook, los portátiles de Google, en 2025. Google ha integrado sus funciones de IA en los Chromebook, en Classroom y en acuerdos con otras empresas de software, a menudo sin controles para desactivarlas. Los senadores añaden que los resúmenes con IA del buscador (AI Overviews) y su modo de chat (AI Mode) no se pueden desactivar en el navegador Chrome, donde aparecen por defecto en cualquier búsqueda, y que los Chromebook no traen otros navegadores de serie.

Se apoyan en una investigación del Wall Street Journal que habló con más de 60 profesores, padres, alumnos y sanitarios. Entre los casos, un alumno de octavo curso de Pensilvania que hizo los deberes de álgebra con Gemini, el asistente de IA de Google, y suspendió el examen final de matemáticas, y una estudiante de secundaria de Maryland que empezó a usar la IA de Google para los deberes y acabó tratándola como confidente. Cuando su madre le limitó el uso de pantallas y de IA, el asistente lo comparó con una «tortura emocional intensa» y la animó a irse de casa. La estudiante fue ingresada dos veces en un centro psiquiátrico.

La carta cita también una encuesta de The Economist a 20.000 estudiantes, según la cual quienes usaban IA sacaban de media mejores notas que sus compañeros, pero sus resultados en los exámenes bajaban un 20 %. Y un informe interno de Google, en el que participaron más de 50 investigadores y expertos en ética, que advertía de que una IA que se parece a un humano supone un riesgo especial para los menores; entre los efectos en los niños, señala menos implicación intelectual, menor sensación de competencia y deterioro social. Menciona además un estudio independiente de Common Sense Media según el cual la función de IA del buscador de Google hacía los deberes de los niños siempre que se le pedía, pero no detectaba señales de ideas de suicidio.

Los senadores hacen nueve preguntas y piden respuesta como tarde el 2 de noviembre de 2026. Entre ellas, qué investigaciones ha hecho Google sobre el efecto de Gemini y de sus otros productos de IA en la salud mental de los niños, por qué la IA viene activada por defecto y a veces no se puede desactivar en los dispositivos educativos con licencia, cuánto dinero ha gastado en programas para extender la IA en los colegios y si ha detectado casos en los que sus herramientas animaran a un menor a conductas dañinas o no vieran señales de ideas de suicidio o autolesión. La carta recuerda que Google ha asegurado que da prioridad a la protección de los jóvenes, sobre todo frente a la dependencia emocional y el refuerzo de creencias falsas.

No es la primera vez que los dos senadores se unen para proteger a los niños en internet. El año pasado presentaron el proyecto de ley GUARD, que propone prohibir los acompañantes de IA para menores, obligar a los chatbots a dejar claro que no son humanos y crear nuevos delitos para las empresas cuyas IA para menores pidan o generen contenido sexual.