La inteligencia artificial (IA) se ha convertido en la tecnología más influyente y disruptiva de los últimos años. Su impacto masivo comenzó a fines de 2022 con el lanzamiento de ChatGPT por parte de OpenAI, un sistema basado en Large Language Models (LLM), lo que se traduce como grandes modelos de lenguaje capaces de procesar y generar texto en lenguaje natural con una fluidez sorprendente. Desde entonces, estas herramientas han transformado la vida social, laboral y académica, ofreciendo oportunidades, pero también presentando riesgos.
Los expertos describen en palabras simples, que la operación de la IA se sienta en tres pilares: entrenamiento masivo, es decir leen millones de libros, artículos y páginas web para aprender patrones del lenguaje; detectan relaciones complejas entre palabras, y realizan predicción estadística; es decir calculan qué palabra es más probable que siga en una frase. Lo paradójico es que imitan la tarea más humana de todas, el lenguaje; y lo hacen sin pensar.
La IA no piensa ni comprende como humanos, solo genera respuestas basadas en cálculos probabilísticos. Esa diferencia es crucial: puede producir textos convincentes, pero carece de conciencia y sensibilidad moral. El creer que las respuestas de la IA son sensatas, ha derivado en casos trágicos. Por ejemplo, el de un joven estadounidense que compartió con ChatGPT sus intenciones suicidas sin recibir una respuesta que lo disuadiera, muestra el gran riesgo que representa confiar en sistemas que imitan lo humano sin comprenderlo, especialmente cuando estas herramientas son utilizadas por menores de edad.
En el desarrollo de sistemas de inteligencia artificial, los filósofos cumplen un papel clave en la actualidad, al evaluar la calidad moral de las respuestas que generan los modelos. Empresas como Google DeepMind y Anthropic ya los han incorporado a sus equipos de trabajo y su tarea es diseñar marcos éticos y pensamiento crítico para que las IAs respondan a dilemas complejos. Por ejemplo, una tarea concreta es diseñar protocolos que les permitan responder de manera adecuada en situaciones delicadas, como crisis psicológicas.
La dificultad radica en evaluar la calidad moral de las respuestas de la inteligencia artificial sobre todo porque las decisiones morales obedecen a factores contextuales, culturales y situacionales que no se reducen a reglas simples. Los métodos que utilizan para evaluar las respuestas de las IA son preguntas capciosas, o los que técnicamente denominan métodos adversariales y confirmatorios.
En mi opinión, los esfuerzos no deben centrarse en imitar el juicio humano, lo esencial es capacitar a las personas para obtener beneficios de esta tecnología y, sobre todo, evitar su uso en decisiones críticas que impliquen evaluaciones de salud, justicia u otros ámbitos sensibles.
Hay que reconocer que la IA es una herramienta poderosa, sobre todo para generar texto, analizar y hacer búsquedas a una velocidad impensada, pero no posee competencia moral genuina. La inclusión de filósofos en empresas de IA busca mitigar riesgos tratando de aportar algo parecido a una reflexión crítica; sin embargo, el razonamiento humano sigue siendo insustituible. La IA puede acompañar y apoyar, pero nunca reemplazar nuestra capacidad de deliberar éticamente y decidir con responsabilidad.
Carmen Pérez Riquelme
