Blog
Una mirada crítica al deep learning
7 febrero, 2022
(Fuente imagen: Arxiv)
El Deep learning o aprendizaje profundo es un tipo de inteligencia artificial basada en redes neuronales, un tipo de algoritmo que imita el trabajo en paralelo de las neuronas del cerebro humano. Esta red neuronal tiene distintas capas que se basan en datos para aprender y resolver un problema. Este tipo de algoritmo se utilizan por ejemplo para el procesamiento del lenguaje natural, la traducción automática, el reconocimiento de imágenes y el desarrollo de sistemas de conducción automática.
El aprendizaje profundo tiene muchas aplicaciones y cada vez se utiliza más, por lo que algunos científicos como Gary Marcus se han parado a reflexionas sobre los inconvenientes de este tipo de inteligencia artificial. Las principales críticas son:
- Necesita demasiados datos: para que el algoritmo aprenda debe basarse en una gran cantidad de datos, cuanta más cantidad haya mejor serán los resultados. Por lo tanto, en situaciones en las que no existan suficientes datos los resultados serán imprecisos.
- Apenas tiene capacidad de transferencia: si los datos no son muy variados el algoritmo aprenderá a resolver el caso concreto que presentan los datos, pero no dará buenos resultados en casos distintos al que reflejan los datos de los que ha aprendido.
- No sabe gestionar sistemas jerárquicos: no son capaces de identificar la jerarquía, abordan todos los elementos del problema a resolver al mismo nivel.
- No es bueno infiriendo: el deep learning es bueno aprendiendo de datos que tienen una información explícita, pero no es capaz de extraer conclusiones cuando los datos muestran información de manera indirecta.
- No es lo suficientemente transparente: el algoritmo funciona como una caja negra en la que hay múltiples capas que toman decisiones y dan un resultado sin explicar cómo se ha llegado a él. Cuando hay pocas capas y el problema es sencillo se puede rastrear cómo se ha llegado a la solución, pero con millones de capas esto es inviable. Hoy en día se está trabajando en cómo hacer menos opaco y más confiable el funcionamiento de este tipo de algoritmos.
- No usa conocimiento previo: el algoritmo aprende de los datos, pero no suele llevar integrado conocimiento previo.
- No distingue correlación y causalidad: el algoritmo puede encontrar correlaciones en los datos, pero no puede establecer la causa de esta correlación.
- Presume un mundo estable, inmutable: no suele dar buenos resultados en problemas que tienen un contexto cambiante.
- Funciona bien como aproximación, pero no es enteramente fiable.
- Plantea problemas de ingeniería, de integración con otros componentes para crear sistemas.
El deep learning ya se utiliza en multitud de aplicaciones y se está trabajando en futuros usos, por ello debemos ser conscientes de sus limitaciones. Este tipo de inteligencia artificial da muy buenos resultados, pero no debe considerarse una solución universal y debe combinarse con otras técnicas de inteligencia artificial para alcanzar todo su potencial.
Referencias
Deep Learning: A Critical Appraisal. Gary Marcus. New York University