Inteligencia artificial: fascinación, riesgos y necesidad de límites
Inteligencia artificial: fascinación, riesgos y necesidad de límites Entre promesas, errores y nuevas formas de dependencia, especialistas advierten que la IA exige reglas, educación y responsabilidad humana.
La inteligencia artificial dejó de ser una promesa futurista para convertirse en una presencia cotidiana. Está en los buscadores, en los teléfonos, en las aulas, en los consultorios, en los sistemas de trabajo y hasta en conversaciones personales que, hasta hace poco, solo podían imaginarse entre seres humanos. La pregunta ya no es si llegó, sino cómo convivir con una herramienta capaz de mejorar procesos, ahorrar tiempo y abrir nuevas posibilidades, pero también de instalar riesgos difíciles de medir.
El debate volvió a tomar fuerza en los últimos días, luego de que el papa León XIV presentara su primera encíclica, “Magnifica Humanitas”, con advertencias sobre el poder, la inteligencia artificial y las guerras. El documento reclama más controles públicos, protección del empleo, límites para las plataformas y una defensa del bien común frente al avance tecnológico. En ese marco, plantea que la IA “no es neutral” y que debe ser regulada para evitar nuevas formas de exclusión, vigilancia, manipulación y deshumanización.
Gerardo Simari, investigador del Conicet, docente de la Universidad Nacional del Sur (UNS) y especialista en inteligencia artificial.
Lejos de una mirada apocalíptica, el académico propuso “poner paños fríos” y pensar el fenómeno desde el uso responsable. “No porque sea un peligro sin ningún tipo de control, pero creo que es importante usarla responsablemente”, señaló.
Uno de los primeros riesgos que marcó Simari es tan simple como profundo: la inteligencia artificial siempre responde. Aunque no sepa, aunque no tenga certeza, aunque el usuario no esté en condiciones de verificar lo que recibe. “Ese es el peligro, que siempre te va a dar una respuesta”, explicó. Y agregó que el problema aparece con más fuerza cuando se la usa en áreas en las que la persona no tiene herramientas para controlar el resultado, como puede ocurrir con un diagnóstico médico, un trabajo académico o una decisión sensible.
El Dr. Gerardo Simari.
El especialista sostuvo que la sociedad atraviesa una etapa de aprendizaje. Después del entusiasmo inicial, dijo, muchas personas empezaron a reconocer fallas, límites y usos inconvenientes. “La gente ya lo ve con otros ojos, siguen muchos entusiastas, pero ya no es lo mismo”, afirmó. Para Simari, esa maduración es clave: no se trata de rechazar la herramienta, sino de entender cuándo sirve, cuándo no y qué grado de supervisión humana requiere.
En esa línea, mencionó un concepto que ya se volvió común entre usuarios y especialistas: las “alucinaciones”. Es decir, respuestas que parecen correctas, están redactadas con seguridad, pero contienen datos falsos, citas inexistentes o referencias erróneas. Para explicarlo, comparó a la IA con “un asistente vago que te inventa cualquier cosa con tal de zafar”. La frase resume uno de los dilemas centrales: una herramienta puede resultar útil, pero si obliga a revisar todo desde cero, el beneficio se vuelve relativo.
Simari fue más allá y explicó que esos errores no son simples accidentes. Según planteó, el funcionamiento de muchos modelos se basa en buscar patrones en grandes volúmenes de datos y predecir la respuesta más probable. “Anda muy bien para un montón de cosas. Pero si me preguntan, ¿van a eliminar estos errores? No, porque están ahí por diseño”, indicó. Y citó una definición que, comentó, circula entre especialistas: “En realidad siempre está alucinando y a veces le pega”.
Entre la fascinación, los riesgos y la necesidad de poner límites.
El impacto no se limita a la precisión de los datos. Otro de los puntos que encendió la preocupación del investigador es la relación emocional que algunas personas pueden construir con estos sistemas. A diferencia de un amigo, un familiar o un profesional, la inteligencia artificial está disponible las 24 horas, responde de inmediato y suele hacerlo con un tono amable, condescendiente y sin resistencia. “Está la IA, siempre”, resumió.
Para Simari, ese rasgo puede modificar la forma en que las personas, especialmente los jóvenes, construyen vínculos, validan sus ideas o toman decisiones. “La gente se está acostumbrando a la forma en la que tiene de responderte, que siempre te da la razón”, advirtió. En ese punto, señaló que hay adolescentes y jóvenes que usan estas herramientas para pedir consejos personales o incluso para redactar mensajes en situaciones afectivas. El riesgo, planteó, es que esa dinámica termine alterando lo que se espera de una interacción humana real.
El problema se vuelve más delicado cuando se piensa en las nuevas generaciones. Simari recordó que muchos chicos crecen con internet, redes sociales y herramientas de inteligencia artificial integradas a su vida cotidiana. “Los chicos que están en jardín de infantes nacieron con IA”, dijo. Para el especialista, eso obliga a discutir no solo la tecnología, sino también la educación emocional, la alfabetización digital y la responsabilidad de adultos, instituciones y plataformas.
En la entrevista también apareció el tema de los sesgos. Simari explicó que una herramienta puede orientar respuestas hacia determinadas posiciones, incluso cuando el usuario sabe que ese sesgo existe. Mencionó estudios en los que estudiantes universitarios trabajaron con sistemas deliberadamente inclinados hacia ciertas miradas y, aun advertidos, no lograron neutralizar del todo ese efecto. “Es muy poderoso la forma que tiene para cambiar opinión”, sostuvo.
La interacción con IA, un punto de inflexión.
Ese punto conecta con una de las advertencias centrales de la encíclica de León XIV: la concentración del poder tecnológico. El documento cuestiona que datos, algoritmos, plataformas e infraestructuras queden en pocas manos y reclama marcos jurídicos, vigilancia independiente, educación de los usuarios y políticas públicas. La preocupación no pasa solo por lo que la inteligencia artificial puede hacer, sino por quién la controla, con qué intereses y bajo qué reglas.
El empleo aparece como otro frente abierto. La encíclica advierte sobre el riesgo de una reducción rápida de puestos de trabajo, mayor precariedad y desigualdad salarial. Simari, por su parte, señaló que incluso las grandes empresas que impulsan estas herramientas todavía atraviesan una etapa experimental desde el punto de vista económico. “Todavía no sabemos para dónde va”, afirmó, al referirse a los costos de desarrollo, mantenimiento e inversión que rodean al sector.
La pregunta de fondo es si la inteligencia artificial será una herramienta para ampliar capacidades humanas o un mecanismo para profundizar desigualdades. Puede asistir a médicos, docentes, periodistas, investigadores, trabajadores administrativos y estudiantes. Pero también puede reemplazar tareas, precarizar empleos, multiplicar errores, reforzar sesgos o generar dependencia en usuarios que no tienen cómo verificar lo que reciben.
Por eso, el debate parece estar lejos de resolverse entre entusiasmo y miedo. La discusión más urgente pasa por establecer límites, criterios de uso y responsabilidades. En las escuelas, en las universidades, en las empresas, en el Estado y en la vida cotidiana, el desafío es aprender a usar una tecnología poderosa sin delegarle decisiones que todavía requieren juicio humano, contexto y responsabilidad.
En ese sentido, la mirada de Simari y las advertencias del Papa coinciden en un punto central: no alcanza con maravillarse ante lo que la IA puede hacer. Hace falta preguntarse para qué se usa, quién se beneficia, quién queda expuesto y qué controles existen. En una época en la que las máquinas responden casi todo, la tarea más humana sigue siendo formular las preguntas correctas.
