COPE
El Vaticano ha presentado la nueva encíclica 'Magnífica Humanitas', un documento que, sin centrarse exclusivamente en la inteligencia artificial, reflexiona sobre el mundo actual inmerso en esta tecnología. Para analizar sus claves, el programa 'La Mañana de Fin de Semana' de la COPE ha entrevistado a Eduardo Garrido, profesor de la Universidad Pontificia Comillas y miembro del Instituto de Investigación Tecnológica, quien ha arrojado luz sobre las complejidades y los verdaderos peligros de la IA. Uno de los puntos de partida de la conversación ha sido la intervención de Christopher Olah, uno de los responsables de Anthropic y exmiembro de OpenAI, quien admitió en la presentación de la encíclica que en el desarrollo de la IA "hay algo que les resulta misterioso". Garrido ha explicado que este misterio no reside en una ecuación matemática indescifrable, sino en la escala y complejidad de los modelos actuales como ChatGPT o Grok. "Son modelos que están caracterizados por tener una escala gigantesca", ha señalado el experto. Según Garrido, estos sistemas se entrenan con terabytes de texto y se refinan mediante aprendizaje por refuerzo con supervisión humana, lo que genera "un montón de variables que hay que controlar". Esta complejidad hace que sea muy difícil predecir su comportamiento. "Conocer toda esa distribución de probabilidad sobre el lenguaje es algo que está más allá de nuestra cognición", ha afirmado, explicando por qué estas herramientas pueden dar respuestas distintas a la misma pregunta. La encíclica recoge la idea de que la IA "se desarrolla, en cierto modo, a sí misma" dentro de una arquitectura predefinida, lo que genera inquietud sobre su autonomía. Garrido ha aclarado que la IA actual se basa en la estadística y la optimización, donde el conocimiento "emerge" al intentar minimizar una función de error, a diferencia de los antiguos "sistemas expertos" que seguían reglas programadas por humanos. A pesar de esta capacidad de autoaprendizaje, el profesor descarta los miedos de ciencia ficción sobre una IA que adquiera consciencia. Para él, el verdadero peligro no es la tecnología en sí, sino quién la controla. "Si de algo a lo mejor hay que tener miedo es de quién gobierna la IA, no de la propia IA. Ese es lo que a mí personalmente me da más miedo", ha sentenciado Garrido. Garrido se ha mostrado "completamente alineado" con la preocupación de la encíclica por la "concentración de poder de las big tech", la cual considera "increíble". Advierte que, a medida que estas corporaciones sigan invirtiendo en computación y datos, sus modelos serán cada vez mejores, colonizando más áreas de productividad y elevando las "barreras de entrada" para cualquier nuevo negocio. Esta carrera está liderada por Estados Unidos, China y las grandes tecnológicas, aunque destaca iniciativas europeas como Mistral. Frente a este escenario, el experto ha defendido la propuesta de la encíclica de poner la dignidad del ser humano en el centro. Ha instado a "gobernar la IA para que erradique en el bien común del ser humano", en lugar de orientarla a un "beneficio especulativo". Garrido concluye que el "potencial real" de la inteligencia artificial debe usarse para resolver grandes retos de la humanidad, como "encontrar nuevos materiales, nuevas vacunas y solucionar los problemas que tenemos en el día a día".
Go to News Site