Ética e inteligencia artificial: el desafío de conservar el control humano en una era de decisiones automatizadas
La inteligencia artificial ya participa en decisiones laborales, educativas, financieras, sanitarias y gubernamentales. Su avance ofrece beneficios extraordinarios, pero también introduce riesgos relacionados con la discriminación, la privacidad, la desinformación y la pérdida de responsabilidad humana. La ética dejó de ser una discusión teórica: hoy constituye una condición esencial para utilizar esta tecnología de manera segura, justa y legítima.
Ética e inteligencia artificial.
Escrito por Por Jonathan Fernando Alcayaga Quiroz
La inteligencia artificial ha dejado de ser una tecnología reservada a laboratorios especializados. Actualmente puede redactar documentos, analizar grandes volúmenes de información, reconocer imágenes, recomendar tratamientos, seleccionar candidatos para un empleo, evaluar solicitudes financieras y producir contenido audiovisual prácticamente indistinguible del creado por una persona.
Su incorporación está ocurriendo a una velocidad sin precedentes. El AI Index 2025 de la Universidad de Stanford informó que el 78 % de las organizaciones encuestadas declaró utilizar inteligencia artificial durante 2024, frente al 55 % registrado el año anterior. La inversión privada mundial en inteligencia artificial generativa alcanzó los 33.900 millones de dólares durante ese mismo periodo. Estas cifras muestran que la tecnología ya no representa una posibilidad futura, sino una infraestructura cada vez más presente en la economía y en la vida cotidiana. Stanford Institute for Human-Centered Artificial Intelligence
Sin embargo, el crecimiento tecnológico no ha sido acompañado con la misma velocidad por mecanismos de supervisión, evaluación y responsabilidad. El AI Index 2026 registró 362 incidentes documentados relacionados con sistemas de inteligencia artificial durante 2025, frente a 233 casos en 2024. El propio informe advierte que las evaluaciones sobre seguridad y responsabilidad continúan avanzando más lentamente que las capacidades técnicas de los modelos. Stanford HAI, Responsible AI 2026
La pregunta central, por tanto, ya no consiste únicamente en determinar qué puede hacer la inteligencia artificial. La verdadera interrogante es qué debería hacer, bajo qué condiciones, con qué límites y quién deberá responder cuando sus resultados provoquen un daño.
La inteligencia artificial no es neutral
Habitualmente se describe a los algoritmos como herramientas objetivas porque procesan información mediante operaciones matemáticas. Esta idea puede resultar engañosa. Todo sistema de inteligencia artificial es diseñado por personas, entrenado con información producida por sociedades humanas y utilizado dentro de instituciones que poseen determinadas reglas, intereses y desigualdades.
Si los datos utilizados para entrenar un sistema contienen prejuicios históricos, representaciones incompletas o diferencias sociales, el modelo puede aprender esos patrones y reproducirlos. Incluso puede amplificarlos debido a la enorme escala con que procesa y distribuye sus resultados.
La UNESCO advierte que los buscadores, sistemas de recomendación y otras aplicaciones pueden reproducir estereotipos de género, culturales o sociales presentes en sus datos. Un algoritmo no comprende la justicia como lo hace una persona: identifica regularidades estadísticas. Si históricamente un determinado grupo ha tenido menor presencia en cargos directivos, por ejemplo, un sistema de contratación mal diseñado podría interpretar esa desigualdad como un criterio válido para futuras selecciones. UNESCO: casos de dilemas éticos de la inteligencia artificial.
El problema no se resuelve simplemente eliminando variables como el sexo, la edad o el origen étnico. Otros datos —el lugar de residencia, la trayectoria educativa, el código postal o determinadas expresiones lingüísticas— pueden funcionar como indicadores indirectos de esas características.
La ética exige evaluar no solamente la precisión promedio de un sistema, sino también la manera en que sus errores se distribuyen entre distintos grupos. Una herramienta puede presentar un buen rendimiento general y, al mismo tiempo, perjudicar sistemáticamente a una minoría. Cuando la inteligencia artificial interviene en contrataciones, créditos, beneficios públicos, diagnósticos médicos o procedimientos judiciales, esa diferencia deja de ser una falla meramente técnica y se transforma en un problema de derechos fundamentales.
Educar para utilizar la inteligencia artificial con criterio.
La alfabetización en inteligencia artificial no consiste únicamente en aprender a escribir instrucciones o utilizar aplicaciones. También implica comprender las limitaciones de los modelos, reconocer información dudosa, proteger los datos, identificar sesgos y asumir responsabilidad por el contenido producido.
Una persona competente no es aquella que acepta rápidamente una respuesta automatizada, sino quien sabe cuándo debe desconfiar, verificar o rechazarla. Esta capacidad resulta especialmente importante en educación, donde utilizar inteligencia artificial sin declarar su intervención puede afectar la autoría, el aprendizaje y la integridad académica.
Las instituciones educativas tienen la responsabilidad de establecer normas comprensibles. Una prohibición absoluta puede ignorar usos legítimos y dificultar el desarrollo de competencias necesarias. La aceptación sin límites, en cambio, puede favorecer el plagio, la dependencia y la pérdida del pensamiento crítico.
El criterio ético consiste en utilizar la herramienta como apoyo para investigar, comprender y crear, sin sustituir el proceso intelectual que permite aprender ni atribuirse como propio un trabajo que no lo es.
Fuentes consultadas:
UNESCO — Recomendación sobre la Ética de la Inteligencia ArtificialOrganización para la Cooperación y el Desarrollo Económicos — Principios sobre Inteligencia ArtificialInstituto Nacional de Estándares y Tecnología — AI Risk Management FrameworkUniversidad de Stanford — AI Index Report 2025Universidad de Stanford — Responsible AI, AI Index Report 2026Organización Internacional del Trabajo — Generative AI and JobsOrganización Mundial de la Salud — Ethics and Governance of Artificial Intelligence for HealthComisión Europea — Marco regulatorio de inteligencia artificial
