La inteligencia artificial se ha convertido en una herramienta de uso cotidiano entre niños, niñas y adolescentes, lo que ha generado un intenso debate público sobre sus riesgos y beneficios. Guillermo Cánovas, director de Educalike, un observatorio para la promoción del uso saludable de la tecnología, conversó con Ecuador Chequea sobre los errores conceptuales más comunes al hablar de inteligencia artificial y menores, los riesgos documentados frente a los discursos alarmistas, y los principios que deberían guiar una comunicación responsable sobre este tema.
Para Cánovas, el error conceptual más frecuente en el debate público es el antropomorfismo: «la tendencia a otorgarle a la inteligencia artificial características que son humanas y por lo tanto considerar que un error es una mentira deliberada o que hay detrás un intento de manipulación».
El experto explica que este error se alimenta del lenguaje que usamos para hablar de la IA: «utilizamos un lenguaje también muy coloquial para referirnos a la IA y entonces tendemos a personalizar y esto pues puede generar por un lado, miedo en algunas personas o desconcierto». Sin embargo, aclara que esta percepción tiene una base real, «apoyado en una tendencia de la IA a manifestar emociones y expresiones que son humanas… porque está en su programación.»
Por eso, según Cánovas, la clave está en tener claro que «su programación le lleva a contestar así. Que cuando establece confianza es programación, que cuando te dice que valora mucho lo que le estás diciendo o incluso que aprecia lo que le dices es programación.»
Cómo distinguir riesgos documentados de discursos alarmistas
Consultado sobre cómo diferenciar entre riesgos técnicamente comprobados y discursos alarmistas, Cánovas fue enfático: «la forma de distinguirlo es como nos pasa siempre con toda la información que recibimos, venga de una red social o venga de cualquier otro canal, y es la verificación… Primero tenemos que tener un respaldo documental sobre algo que estamos afirmando… hay que ver qué estudios apoyan esta afirmación.»
El experto identificó además un sesgo humano recurrente: «esa tendencia a sacar conclusiones generalizadas de un único hecho o de una circunstancia que se ha producido en un entorno y a partir de la cual pues se saca una conclusión que se generaliza.» Según Cánovas, «todavía es muy pronto para saber qué conductas, qué circunstancias se van a generalizar y cuáles son tremendamente puntuales, pero es una tendencia muy humana y un sesgo muy humano el tender a generalizar.»
Los principales riesgos para niños, niñas y adolescentes
Cánovas agrupó los riesgos del uso de IA por parte de menores en varias categorías. La primera tiene que ver con el uso inconveniente de la herramienta, donde ubicó la creación de deepfakes —montajes fotográficos hechos a partir de la cara de una compañera o un compañero del colegio— y los casos de grabaciones hechas en el aula, en los que se obtiene la voz de un profesor, se clona y luego se difunde en otro tipo de mensajes.
Una segunda categoría corresponde al uso de la herramienta sin conocimiento suficiente sobre su funcionamiento. Aquí, el experto señaló los problemas relativos a la privacidad, cuando niños y adolescentes le comparten y consultan demasiadas cosas a la herramienta. También advirtió sobre las aplicaciones de origen incierto que circulan actualmente: muchas de ellas se parecen entre sí o imitan el logotipo y el nombre de una aplicación oficial, al punto de que el usuario no sabe con certeza qué está usando realmente en su smartphone.
La tercera categoría son los sesgos en la información. Cánovas explicó que no es lo mismo preguntarle a una IA estadounidense que a una china, pues sus sesgos son distintos, e incluso entre herramientas de un mismo país, como ChatGPT y Grok, las respuestas también varían según cómo fueron entrenadas.
El experto también se refirió al impacto en los procesos cognitivos de niños y adolescentes y advirtió que es muy fácil acomodarse y pedirle a la herramienta que haga todo el trabajo, cuando el objetivo de la IA no es ese, sino potenciar el trabajo propio y facilitar una progresión, no sustituirlo.
El límite en la información personal compartida
Sobre qué tanta información es «demasiada» para compartir con una IA, Cánovas explicó: «no es lo mismo hacer una consulta genérica sobre un tema que explicarle a una herramienta características tuyas, circunstancias tuyas, problemas de salud física o de salud mental propios y a partir de ahí ponerte a hablar con la herramienta».
Además, fue directo al fijar la línea roja: «el límite estaría en la utilización de datos personales del propio niño, del propio adolescente cuando se relaciona con la herramienta». Sobre el destino de esa información, añadió: «no sabemos muy bien luego esos datos si van a ser utilizados para entrenar a la herramienta o no, depende de qué herramienta utilices, depende de que sea una versión gratuita o una versión de pago».
El rol de los medios y la verificación
Para Cánovas, «el primer objetivo debería ser evitar el sensacionalismo. Intentaría evitar los posicionamientos muy radicales, tanto aquellos que consideran que la herramienta es una amenaza en sí misma y que por tanto hay que intentar combatirla de alguna manera, como aquellos que presentan esta herramienta como si fuera la solución para todos los problemas de la humanidad”, indicó.
El experto también advirtió contra otro error: «el comparar esta herramienta con otras previas. Es decir, creo que nunca hemos tenido una herramienta con este potencial y con esta capacidad para hacer cosas». Por eso, remarcó la importancia del trabajo de verificación: «ahora mismo estamos encontrando muchos contenidos en internet generados de forma artificial que resultan extremadamente creíbles, tanto en su redacción como en sus imágenes, como en todo lo que utilizan de entorno de sonido y de vídeo».
Tres principios para comunicar el tema con responsabilidad
Al cierre de la entrevista, Cánovas resumió su postura en tres ejes centrales. El primero es el equilibrio: buscar una posición donde se muestren tanto los aspectos negativos como los positivos de cada tema relacionado con IA, evitando los radicalismos en la manera en que se presenta la información.
El segundo eje es evitar el antropomorfismo, es decir, no otorgarle a la IA condiciones, responsabilidades o intenciones que no tiene, entendiendo que toda respuesta de la herramienta responde a una programación.
Por último, Cánovas insistió en la importancia de verificar absolutamente todo, ya que se trata de información muy reciente, los usuarios cuentan con pocos espacios donde contrastarla en este momento, y suelen otorgarle mucha credibilidad a lo que leen.
