3 limitaciones de la IA que todo project manager debe conocer

Además de las oportunidades, es necesario que se conozcan las limitaciones de la IA. Resulta que su implementación se extiende cada vez más y demuestra grandes aumentos de la eficiencia y la productividad. Sin embargo, se trata de una herramienta que tiene sus límites y desconocerlos puede ser contraproducente durante su implementación en un proyecto o proceso de trabajo. En esta nota encontrarás 3 de las limitaciones más importantes de los modelos de lenguaje.

Sesgos injustos: cuando la IA devuelve resultados discriminatorios

Los sesgos negativos o injustos pueden ser considerados errores del sistema inteligente que perjudican a una, a varias, a un grupo o a una clase de personas a partir de reflejar prejuicios o estereotipos en sus respuestas. Este fenómeno se explica, en gran parte, por el hecho de que los chatbots, al igual que los sistemas de generación de texto, son entrenados con datos provenientes de Internet. Y de aquí absorben prácticas, valores sociales, prejuicios y estereotipos. Otro factor que influye en este tipo de resultados es que las técnicas de aprendizaje profundo que se usan para los modelos de lenguaje (redes neuronales artificiales de diverso tipo) presentan déficits intrínsecos de trazabilidad, explicabilidad y transparencia, lo que se conoce como el fenómeno llamado “caja negra”.

Limitaciones de la IA por falta de contexto

El lenguaje natural de los seres humanos está lleno de ambigüedades y el significado que atribuimos a las palabras muchas veces depende del contexto. Esto puede conllevar a ciertas limitaciones de la IA. Esta tecnología procesa los datos bajo otra lógica, no es capaz de realizar contextualizaciones circunstanciadas que, además y en muchos supuestos, requieren de análisis sofisticados de relaciones causales o de inferencias lógicas. A esto debe sumarse el hecho de que en ocasiones, se presentan dificultades por falta de información más especializada y compleja.

Limitaciones de la IA por incapacidad de razonamiento

La IA desconoce el contexto, las personas, los objetos, las situaciones y también las conexiones entre estos elementos. La “comprensión” que tiene de estos aspectos de la realidad se basa en una aproximación fundada en la matemática, la estadística y las técnicas computacionales para procesar símbolos, imágenes o lenguaje, que son representados en formatos de números y, a su vez, expresados con base binaria. ¿Qué significa esto? Que la IA hace un procesamiento ultrarrápido de fragmentos de texto pero no es capaz de pensar, imaginar, recordar o comprender. Ni siquiera sabe que las palabras representan cosas (Hofstadter, 2018). Por eso las IA de hoy son lo que Alan Turing explica en la película “El juego de la imitación”: grandes simuladoras de comprensión.
La primera consecuencia asociada a esta problemática es que se esta característica limita la capacidad generalización. Resulta prácticamente imposible que los datos históricos que alimentan a un sistema le permitan anticipar todas las situaciones que pueden darse en un entorno abierto y dinámico como es el mundo real.
La segunda problemática asociada es que la inteligencia artificial, a diferencia de los humanos y al menos por ahora, carece de sentido común y no logra imitar satisfactoriamente esta capacidad de los seres biológicos. La limitación central de la inteligencia artificial es que solo registra datos en términos de código y realiza correlaciones estadísticas, las cuales no reemplazan (al menos para muchos usos humanos) la comprensión del mundo real.

En resumen, comprender las limitaciones de la IA es esencial para su implementación, tanto como conocer su potencial para la eficiencia. Estas limitaciones subrayan la necesidad de un enfoque equilibrado, donde el criterio humano siga siendo clave en la toma de decisiones. En este sentido, formarse y actualizarse en torno a estas temáticas es vital para garantizar el uso criterioso, adecuado y estratégico de la inteligencia artificial en cualquier proyecto.

Si quieres liderar la implementación de IA en proyectos y elevar tu perfil profesional inscríbete al MBA en Dirección de Proyectos de Inteligencia Artificial, donde podrás encontrar profesores y colegas de todas las partes del mundo.
También puedes conocer más oportunidades de formación para impulsar tu carrera profesional en el contexto de la revolución de la IA en AI Academy.

Esta nota se elaboró en base al módulo «La disrupción de la inteligencia artificial generativa», elaborado por Laura Cecilia Díaz Dávila y Enzo Le Fevre Cervini, ambos docentes del MBA en Dirección de Proyectos de Inteligencia Artificial.