La emergencia de la inteligencia artificial
Ok el título y la imágen anterior puede que sean un poco click bait, no intento hablar precisamente de una “emergencia” tipo “se va a acabar el mundo”, sino más bien de la acepción siguiente:
Emergencia
Echo de emerger, la emercencia de nuevas tecnologías revoliciona las comunicaciones.
No te preocupes, también hablaremos de algunos temas que podríamos considerar una emergencia con la acepción usual de la palabra, pero primero regresemos al hecho de emerger
La IA que conocemos y usamos hoy no es un producto diseñado de una manera determinista como se hacía en el pasado, sino que es el resultado de sistemas complejos que producen comportamientos inesperados, que tienen mucho potencial pero también conllevan riesgos.
De la IA determinista a la IA emergente
Inicialmente la IA era diseñada de manera más determinista: usando reglas claras (heurísticas) y código que seguía las instrucciones de los programadores quienes tenían que considerar todos los casos posibles y todos los comportamientos. Hoy en día los sistemas de IA emergen de la interacción de los datos, los modelos matemáticos y procesos de optimización masivos. Un ejemplo de esto son los Large Language Models, LLMs, estos modelos no entienden la información como lo hacemos los humanos, sino que generan resultados basándose en patrones complejos que emergen de billones de datos.
Lo anterior hace que estos sistemas tengan un potencial que raya en lo increíble, pero eso también los convierte en la clásica “caja negra”, un sistema que recibe una entrada (prompt) y arroja algún resultado mientras que el proceso que sigue para generarlo es más bien opaco, esto a menudo los vuelve impredecibles y no fidedignos. Por ejemplo, LLMs como GPT pueden generar respuestas (e incluso código) útiles, pero también pueden presentar comportamientos inesperados o erroneos, esto nos hace preguntarnos: ¿Qué tanto podemos confiar en estas tecnologías que no comprendemos del todo? ¿Qué tan seguro es aplicarlas en nuestras actividades (sobre todo en sectores críticos)?
Fenómenos y aplicaciones inesperados
Lo “bueno”
● Modelos que aprenden a realizar tareas para las que no fueron diseñados explícitamente como traducción de un idioma a otro, resolver problemas matemáticos o escribir código funcional
Lo malo
● Modelos que perpetúan sesgos originados en los datos de entrenamiento, como modelos que no reconocen como humanos a personas con ciertas características físicas
Lo raro
● Alucinaciones, así como se oye (el LLM inventa sus respuestas “de la nada”)
Habiendo repasado un poco los fenómenos pertinentes a la IA emergente, discutamos un poco las posibles complicaciones causadas por esta cualidad emergente de la IA.
Reemplazo de trabajadores
Este es uno de los miedos más presentes a lo largo y ancho de la sociedad, existe mucha incertidumbre entre otras razones porque se percibe que prácticamente cualquier puesto de trabajo puede ser suplantado por las IAs, desde labor manual hasta puestos que requieren títulos universitarios, incluso los desarrolladores de IA pueden ser reemplazados “de un momento a otro” por una Inteligencia Artificial General que siempre aparenta estar a la vuelta de la esquina. Tomando esto en cuenta, muchas empresas ya se están adelantando y han reemplazado algunas de sus funciones con asistentes de IA como lo son los chatbots de servicio al cliente, el uso de modelos como GPT para realizar tareas de redacción y corrección de textos, generación de contenido multimedia y páginas web.
Pero tal vez estas empresas están arriesgándose demasiado, y en vez de ser los “punta de lanza” que esperan, están siendo los primeros adoptadores que servirán de sujetos de prueba para las subsecuentes y más exitosas empresas que entiendan la siguiente posibilidad:
Reemplazo de trabajadores ¿Una promesa efímera?
A medida que las organizaciones y emprendedores implementan estas herramientas descubren que no siempre funcionan como esperan. Los resultados obtenidos de los LLMs suelen necesitar revisiones, reinterpretaciones, segundas vueltas y dependen de “prompt engineering” para obtener los resultados deseados, al día de hoy esto es más un arte que una ciencia y las maneras de hacer funcionar un modelo con prompt engineering varían incluso de una versión a otra del mismo modelo, a gran escala y a mediano-largo plazo esto requiere de trabajo intensivo y tiene el potencial de ser más costoso e impráctico que contratar especialistas para que realicen las funciones para las que fueron reemplazados con IAs.
En el futuro cercano podríamos ver un fenómeno curioso: empresas que, habiendo reemplazado a sus trabajadores con IAs, se ven forzados a recontratar humanos porque los LLMs no cumplen con sus expectativas, esto puede provocar crisis de confianza entre empleados y empleadores y entre la sociedad y la IA.
Tradución de la imagen:“Para reemplazar a los programadores con IA, los project managers (puedes reemplazarlo por “mi jefe”) necesitan describir acertadamente lo que necesitan… estamos a salvo
Limitaciones y el problema de la explicabilidad
Una de las mayores barreras para la adopción de la IA emergente es la falta de explicabilidad. Si no podemos entender cómo un modelo toma decisiones, ¿Cómo podemos confiar en él? Especialmente si se trata de áreas como la salud, impartición de justicia o decisiones financieras, que impactan directamente la vida de las personas.
Algunos ejemplos de explicabilidad usados actualmente
● Mapas de calor (heatmaps): Resaltan las áreas de una imagen que el modelo consideró más relevantes para su predicción. Por ejemplo, en un modelo que diagnostica neumonía a partir de radiografías, el mapa de calor puede mostrar qué regiones del pulmón influyeron en la decisión.
● Explicaciones locales (LIME y SHAP): Estas técnicas intentan explicar por qué un modelo tomó una decisión específica, analizando cómo pequeñas variaciones en las entradas afectan el resultado. Son útiles para modelos en áreas como finanzas, donde pueden justificar la aprobación o denegación de un crédito.
● Modelos sustitutos: Se utilizan para aproximar el comportamiento de un modelo complejo con uno más simple y entendible. Por ejemplo, se puede usar un árbol de decisión para explicar la lógica aproximada detrás de un modelo de red neuronal.
Las soluciones referentes a explicabilidad actuales son insuficientes, reforzando la idea de que la IA no puede reemplazar por completo a los humanos, sino que resalta la necesidad de pensar en un marco que combine la automatización con la supervisión humana
Reflexiones finales
La emergencia de la IA es un fenómeno que debemos observar con atención. Mientras seguimos explorando sus capacidades, también debemos ser conscientes de sus limitaciones y riesgos. El futuro cercano podría presentarnos un reajuste en nuestras expectativas: de reemplazar a los humanos por completo a rediseñar sistemas donde la colaboración entre personas e inteligencias artificiales sea la norma. En esta coexistencia, podría residir la verdadera revolución.
Algunos términos para profundizar
Determinista
Heurística
LLM
Prompt engineering
Explicabilidad
Alucinaciones (en el contexto de LLMs)
Inteligencia Artificial General