Bitácora de Héctor Acebo, poeta, periodista cultural y doctor en Periodismo

Bitácora de Héctor Acebo, poeta, periodista cultural y doctor en Periodismo.
-Correo: acebobello@gmail.com
-Instagram: @hectoracebo
-Twitter: @HectorAcebo

viernes, 8 de agosto de 2025

OS LÍMITES DA IA

Vendéronnos a moto de que as intelixencias artificiais xenerativas destacan polo seu razoamento siloxístico, e nada máis lonxe da realidade. ChatGPT ou Gemini almacenan millóns de datos, e logo tratan de atopar patróns entre eles. Pero se estes programas soubesen extraer verdades particulares a partir de principios xerais, non se contradecirían a si mesmos, cousa que sucede decotío. Nun artigo publicado en The New York Times (08/03/2023), Noam Chomsky, Ian Roberts e Jeffrey Watumull deron na diana ao afirmar que os modelos de intelixencia artificial (IA) xenerativa “son incapaces de distinguir o posible do imposible”.

Lembrarán vostedes que hai uns meses Google implementou a IA no seu motor de procura. Daquela entráronme ganas de poñer a proba a capacidade deductiva de AI Mode —así se chama a función—, razón pola cal comecei preguntándolle: “Onde se fala o galego?”. A súa resposta foi: “En Galicia, o galego é cooficial co castelán, e utilízase en todos os ámbitos, desde a administración ata a educación. Fóra de Galicia, atópase principalmente nas zonas occidentais das provincias de León e Zamora, así como nunha pequena parte de Asturias”.

Pero ás veces basta con cambiar o enfoque dunha cuestión para que se derrube o edificio. Pregunteille a AI Mode: “Cal é a lingua vernácula de Santiso de Abres?”. Contestoume que no meu concello “fálase unha variedade occidental do asturiano”. Esta resposta, que choca coa anterior, nega algo demostrado con evidencias científicas por Menéndez Pidal, Dámaso Alonso ou Zamora Vicente: do mesmo xeito que o catalán tamén é lingua propia de Andorra ou da Comunidade Valenciana, na comarca do Eo-Navia (Asturias) falamos galego, concretamente a variante oriental deste idioma. Velaquí algúns fenómenos diferenciais entre o galego oriental e o asturiano occidental: ‘terra’ / ‘tierra’; ‘roda’ / ‘rueda’; ‘vir’ / ‘venir’; ‘pantalois’ / ‘pantalones’; ‘eu’ / ‘yo’; ‘cantache’ / ‘cantaste’.

A segunda contestación de AI Mode entronca coa tendenciosa postura do filólogo Xosé Lluis García Arias. O seu ‘Diccionario General de la Lengua Asturiana’ recolle —en calidade de “variantes”— moitas verbas empregadas no galego oriental: ‘barruzo’, ‘brosa’, ‘cabazo’, ‘penedo’… Curiosamente, García Arias non contempla o termo co que poderiamos definir a obra de seu: ‘zarapallada’.

Como se ve, os programas de aprendizaxe automática non discriminan as fontes: unhas veces apóianse en estudos realizados con criterio científico; e outras, en panfletos. Esa carencia de sentido crítico afecta ó seu xeito de razoar.

As ‘alucinacións’

Outro problema da IA xenerativa son as ‘alucinacións’. Isto quere dicir que cando Gemini, AI Mode ou ChatGPT descoñecen un tema, adoitan inventar a resposta correspondente. Vexamos un par de exemplos. Aproveitando que quería reler un apuntamento dun dos meus aforistas predilectos, cuxo título, ‘Heraclio’, non lembraba, lanceille a AI Mode esta pregunta: “Que texto escribiu Rafael Sánchez Ferlosio acerca dun mastín aforcado?”. O programa respondeume que “non existe un texto específico” do escritor madrileño sobre ese tema. Resulta paradoxal que, a partir dunha pregunta nidia, a IA non consiga rastrexar apuntamento de Ferlosio, pois o libro do que forma parte, ‘Campo de retamas’ (Random House, 2015), foi dixitalizado precisamente por Google. Diversas webs reproducen a fermosa evocación sobre o can, que Ferlosio publicara orixinalmente en El País (22/01/2009) como parte da tribuna ‘Pecios. El Mal es un comodín ideológico’.

Fíxenlle a mesma pregunta a ChatGPT e —agárrense— obtiven esta resposta: “O texto ao que te refires é un fragmento da obra ‘El árbol de la ciencia’ de Rafael Sánchez Ferlosio, escritor e ensaísta español”. En efecto, a aplicación atribuíu a Ferlosio a obra máis emblemática de Baroja. Cando este publicou ‘El árbol de la ciencia’ (1911), aínda faltaban dezaseis anos para que aquel nacese! Durante o procesamento de datos, a aplicación percibiu patróns inexistentes na realidade, xerando un resultado disparatado: o cumio das ‘alucinacións’.

Paréceme lamentable que os enxeñeiros non programen ás intelixencias artificiais para dicir máis a miúdo “Non o sei” ou “Síntoo: descoñezo ese dato”. Tan cara está a humildade?

Noutras ocasións, estes programas malinterpretan (ou pasan por alto) os factores extralingüísticos, como o contexto, que é parte esencial no significado dunha mensaxe. Así, AI Mode deu por verídicos algúns contidos de ton humorístico, como que a Illa de Cabo Betrón ten un fuso horario diferente aos restantes territorios de Nova Escocia (Canadá), e mesmo dixo que os xeólogos recomendan comer unha pequena pedra ao día!

O que debe ser

O 19 de abril, Valentina Raffio recolleu en El Periódico o significativo testemuño de Laura, unha rapaza de 25 anos que discutira co seu noivo. “Me he desahogado con ChatGPT. Hemos hablado largo y tendido del tema, me ha dado algunos consejos y me ha animado mucho”, afirmaba a moza. Non deixa de ser preocupante que cada vez máis xente vexa no ‘chatbot’ a un terapeuta ou a un amigo, pois, como resaltaron Chomsky e mailos seus colaboradores, as intelixencias artificiais carecen de valores morais e, en consecuencia, non distinguen o que debe ser do que non debe ser. Ademais, están privadas da empatía e a experiencia sensorial. Que consellos che vai dar unha máquina?

Non serei eu quen negue a utilidade da IA; entre os seus moitos beneficios, cómpre salientar o recoñecemento facial ou a automatización de tarefas —pagos, tabulacións de datos, invitacións a eventos, etcétera—, que lles permite optimizar o tempo aos traballadores dunha empresa. E grazas aos ‘chatbots’, accedemos en tempo récord a moitos datos que despois deberemos cotexar, para non caer na desinformación. En calquera das súas formas, a IA debe concibirse como un complemento da mente humana, non como un substituto. “Non lle pidas peras ao olmo”, di o refraneiro. Que gran consello!

(El Progreso, 15/07/2025)

 

Para leer el artículo traducido al castellano, pincha aquí.


No hay comentarios: