El sesgo de automatización en el uso de IA generativa
¿El más peligroso de los sesgos?
Existen numerosos tipos de sesgos cognitivos, como se recoge, entre otras fuentes, en la entrada de Wikipedia sobre la lista de sesgos cognitivos. En el contexto actual, marcado por la rápida adopción de la Inteligencia Artificial Generativa (IAG), resulta especialmente importante prestar atención a uno de ellos: el sesgo de automatización.
La expansión de la Inteligencia Artificial Generativa no constituye un fenómeno aislado. Es, en buena medida, parte de un proceso de transformación tecnológica que se ha venido gestando durante décadas con el desarrollo de las Tecnologías de la Información y la Comunicación (TIC). Sin embargo, la velocidad con la que hoy podemos acceder, procesar y producir información genera una tentación cada vez mayor: dejarnos llevar por la comodidad de la inmediatez bajo el lema de “mientras más rápido, mejor”.
Es precisamente en este contexto donde cobra especial relevancia el sesgo de automatización, entendido como la tendencia a confiar excesivamente en los sistemas automatizados y a aceptar sus resultados sin someterlos a una evaluación crítica. En el caso de la Inteligencia Artificial, este riesgo puede manifestarse de dos maneras. Por un lado, podemos sentirnos inclinados a creer en respuestas que, aunque sean discursivamente convincentes, pueden contener errores o información falsa. Por otro, la presión por obtener y entregar respuestas rápidamente puede llevarnos a omitir procesos fundamentales como la comprobación, el contraste y la verificación de las fuentes.
Por esta razón, si entendemos la Inteligencia Artificial como un sistema que recibe inputs y genera outputs, resulta fundamental prestar atención a ambas etapas del proceso: comprender cómo formulamos nuestras solicitudes y, especialmente, evaluar críticamente las respuestas que obtenemos. Esta última tarea puede entenderse como un proceso de auditoría, evaluación crítica, verificación o validación (fact-checking) de la información generada por la herramienta.
El sesgo de automatización, por tanto, puede llevar al ser humano a depender excesivamente de sistemas tecnológicos y a permitir que una recomendación automatizada, incluso cuando sea incorrecta, prevalezca sobre su propio conocimiento, experiencia y capacidad de decisión. De ahí la percepción de que podríamos convertirnos en «esclavos de las máquinas», no necesariamente porque estas tengan la capacidad de imponerse por sí mismas, sino porque podemos llegar a delegar voluntariamente en ellas funciones que requieren nuestro propio criterio.
Un ejemplo cotidiano puede encontrarse en el uso de los sistemas de navegación GPS. Imaginemos que conducimos durante varias horas en medio del intenso tráfico de Santo Domingo y decidimos seguir ciegamente las indicaciones de aplicaciones como Google Maps o Waze. Aunque estas herramientas ofrecen servicios extraordinariamente útiles, no son infalibles y no siempre pueden determinar cuál es la mejor ruta en cada circunstancia. Si conocemos la ciudad, comprendemos cómo funcionan estas aplicaciones y contamos con experiencia en determinadas rutas, podemos identificar alternativas que quizá nos permitan evitar una congestión o llegar más rápidamente a nuestro destino, una solución diferente.
El problema, entonces, no está en utilizar la tecnología, sino en renunciar a nuestro propio criterio al utilizarla. La herramienta puede ofrecer una recomendación; corresponde a la persona analizarla, contextualizarla y decidir si es adecuada.
Si bien podemos descartar los escenarios apocalípticos y tremendistas que el cine ha representado en películas como Terminator o Matrix, sí debemos prestar atención a un riesgo mucho más cotidiano y real: la creciente tendencia a depender de las máquinas y a delegar en ellas capacidades humanas como el pensamiento crítico, el discernimiento y la toma de decisiones.
Paradójicamente, este riesgo no depende exclusivamente de la tecnología, sino también de la manera en que las personas decidimos utilizarla. Por ello, uno de los principales desafíos del presente y del futuro no consiste en rechazar la Inteligencia Artificial, sino en aprender a utilizarla de manera consciente, crítica y responsable, entendiendo que la velocidad de una respuesta nunca debe estar por encima de la calidad, la veracidad y la capacidad humana para evaluarla.
Para más información sobre los servicios y recursos de la biblioteca, los interesados pueden escribir al correo
Visita nuestro portal: https://biblioteca.intec.edu.do/