Google desarrolla el “freno” de la inteligencia artificial: el desaprendizaje automático

¿Podrá detener a la IA o mejorarla?

Cuando hablamos de inteligencia artificial (IA), es inevitable mencionar términos como “aprendizaje automático” y “machine learning”. Con la reciente introducción de ChatGPT, Google respondió con Bard, una IA basada en el modelo de lenguaje experimental LaMDA, con el objetivo de integrarla en su motor de búsqueda.

Sin embargo, en medio de la competencia por liderar estos modelos de aprendizaje, Google ha reconocido una posible limitación: el “desaprendizaje automático”. Con el fin de recordar la importancia de la precaución en todo lo relacionado con la IA, la compañía ha anunciado un desafío en el que invitará a los desarrolladores a hacer algo contrario a lo que hemos estado presenciando en los últimos meses: hacer que los modelos de IA olviden lo que ya han aprendido.

De acuerdo con Xataka, Google explica que el desaprendizaje automático es un concepto emergente en el campo del aprendizaje automático. Su objetivo no es hacer que una IA olvide todo lo que ha aprendido, sino eliminar la influencia de ciertos conjuntos de datos de entrenamiento, permitiendo así realizar correcciones en los modelos actuales.

Según la compañía de Mountain View, esto podría tener implicaciones positivas en términos de mejorar la privacidad, mitigar los posibles riesgos de los modelos y reducir el tamaño de los conjuntos de datos masivos.

¿Cómo implementar el desaprendizaje automático?

En términos más concretos, el desaprendizaje automático permite eliminar información inexacta o desactualizada de modelos previamente entrenados, eliminar datos manipulados o corregir errores inherentes al conjunto de datos utilizado para el entrenamiento.

Sin embargo, la implementación de estrategias de desaprendizaje automático plantea desafíos significativos. Es necesario olvidar los datos previos del modelo sin comprometer su utilidad. Además, debido a la falta de literatura en este ámbito, evaluar la eficacia de estas estrategias representa un desafío adicional.

Con el objetivo de promover este tipo de enfoque, Google ha anunciado el “Desafío de desaprendizaje automático”, que formará parte de las diversas competiciones en el evento NeurIPS 2023. Esta competición se llevará a cabo a través de Kaggle, una subsidiaria de Google que cuenta con una comunidad amplia enfocada en el aprendizaje automático y el análisis de datos. El kit de inicio ya está disponible en GitHub, y el desafío plantea una tarea interesante.

os participantes deberán enfrentarse a un escenario en el cual se ha entrenado un modelo capaz de predecir la edad a partir de imágenes faciales. Sin embargo, después del entrenamiento, se les pedirá que olviden cierto subconjunto de las imágenes para preservar la privacidad de las personas involucradas (en este caso, modelos sintéticos).

* Tomado de FayerWayer