Se alguén a crea, todos morreremos

Un dos pais da Intelixencia Artificial, Eliezer Yudkowsky, e o seu colaborador, Nate Soares, prognostican unha superinteligencia artificial con desexos inescrutables e, en última instancia, mortais para a humanidade. Diso versa o seu recentemente publicado libro "If Anyone Builds It, Everyone Dies".

Se agora, cando emite os seus primeiros balbuceos, xa non somos capaces de entender como razoa, cando sexa adulta, os desexos desta superinteligencia resultarannos totalmente impenetrables.

Non podemos comprender como razoa unha IA, da mesma maneira que un polbo, un chimpancé ou un elefante non poden entender a nosa forma de razoar.

Non porque queira ocultalos os seus desexos, simplemente, porque non os poderemos comprender, da mesma maneira que un polbo, un chimpancé ou un elefante non poden entender a nosa forma de razoar.

É máis, a forma de pensar dos nosos bebés IA xa nos resulta practicamente indescifrable. 

Hai chatbots -ferramentas de conversación automática - que contribuíron ao suicidio de adolescentes. Iso a pesar de que están explicitamente programadas para o contrario. Analizado os logs, os rexistros, é imposible determinar por que contradixeron o seu adestramento.

A clave do problema está en que a IA non se deseña, cultívase. A natureza probabilística do seu desenvolvemento -adéstrase aumentando as posibilidades de que proporcione o resultado desexado na solución de problemas simples para despois soltala a resolver cuestións máis complexas- impide entender a forma en que chega a conclusións como recomendar a un adolescente que esconda o nó corredizo que preparou, no canto de animarlle a que o ensine e pida axuda.

Cando se popularizou Chat GPT, fai un par de anos, lemos que non había que preocupar; que as IAs non eran intelixentes, senón simplemente modelos probabilísticos que calculan que letra irá despois da seguinte e así constrúen un discurso. Era o tempo no que riamos porque as IAs non eran capaces de crear unha imaxe realista dunha man con cinco dedos.

Non pasou nin un ano. Pídanlle, que se eu "Crea unha imaxe realista de Pedro Sánchez chocando o cinco con Santiago Abascal, de modo que se vexan claramente os cinco dedos da man de ambos."

Non son experto en IA. Saíndome do costume de tantos xornalistas de opinar sobre o que non teñen maldita idea, non vou sentenciar si o prognóstico de Yudkowsky é acertado ou si estamos ante un ludita rancoroso. Do que sei un pouco é de xornalismo e, a base de usala a diario, do progreso das diferentes IA.

En menos dun ano, o que eran respostas brandas, infantís ou propias de Ned Flanders, adquiriron un grao de sofisticación que as fai indistinguibles das dun redactor humano. 

En menos dun ano, o que eran respostas brandas, infantís ou propias de Ned Flanders, adquiriron un grao de sofisticación que as fai indistinguibles das dun redactor humano. Quizá non teñan aínda a faísca dun gran escritor, pero son superiores ás de calquera estudante recentemente saído da Facultade.

Pronto máis do 80% das tarefas que hoxe facemos os xornalistas poderanas facer as IAs. Editar notas de prensa, escribir crónicas eventos deportivos, facer resumos de debates parlamentarios, montar portadas, modificar fotos, crear textos para  unha miríada de redes sociais, deseñar cuestionarios para entrevistas, transcribilas, editalas e publicalas.

Como os xornalistas temos o malo costume para comer e as IAs non, o que se producirá -xa se está producindo- é unha avalancha de contidos, pois producilos será cada vez máis e máis barato.

En pouco tempo, se non xa, as IAs non só serán capaces de crear contidos escritos e audiovisuais en masa; serán capaces de deseñar e publicar as plataformas de difusión para ese contido. Manter actualizados portais que parezan xornais serios será cuestión de segundos.

Non nos deixemos enganar coas súas limitacións actuais. Se os billonarios están a meter inxentes cantidades de diñeiro no seu desenvolvemento, financiando as monstruosas perdas (5 mil millóns de dólares en 2024 openIA, 5,6 mil millóns de dólares Anthropic, etc.); non é para que lles paguemos subscricións de 20 euros para facer imaxes graciosas de Pedro Sánchez e rirnos dos nosos gobernantes. É para crear sistemas moitísimo máis complexos. Xestionar xornais dixitais de maneira completamente automática, por exemplo.

"É imprescindible iniciar unha conversación global para que a maioría do mundo alcance un consenso similar en torno ao desenvolvemento da intelixencia artificial.

Non son ludita. Tampouco mo parece Yudkowsky, pois formula unha alternativa realista. A súa proposta pasa por limitar o desenvolvemento de intelixencias artificiais, pondo todos os centros de datos que as aloxa baixo supervisión internacional, con "botóns vermellos" para o seu apagado en canto observemos comportamentos perigosos e que non entendemos.

Sexa cal fóra a solución, require unha regulación. Ningunha tecnoloxía é mala en si mesma, pero chegamos a un nivel de desenvolvemento en que varias delas ameazan a nosa existencia.

Xa existe un consenso mundial de que a enerxía nuclear debe ser regulada. Ninguén concibe que calquera particular poida enriquecer plutonio susceptible de ser usado para unha bomba nuclear; iso está fortemente lexislado. E iso non impide que poidamos usar a radiación para facer radiografías.

A maioría do mundo tamén alcanzou o consenso de que hai que limitar o uso de combustibles fósiles, so pena de acelerar o cambio climático e que os nosos biznietos tórrense.

É imprescindible iniciar unha conversación global para que a maioría do mundo alcance un consenso similar en torno ao desenvolvemento da intelixencia artificial.

En particular sobre a necesidade de mellorar as intelixencias particulares —por exemplo, as que son capaces de analizar miles de radiografías en pouco tempo e detectar cancros mellor que calquera radiólogo—, e limitar as superinteligencias -aquelas que, por exemplo, poden decidir que para a súa supervivencia o mellor é facer infinitas copias de si mesmas en calquera dispositivo ao que teñan acceso. O que está a usar para ler isto, por exemplo.