La economía política de los algoritmos

¿Qué significa exactamente "inteligencia artificial"? Empecemos por el primer término, "inteligencia". Se considera que un individuo, humano o animal, es inteligente, en primer lugar, cuando demuestra la capacidad de resolver problemas y superar obstáculos para producir un resultado o alcanzar un objetivo previamente establecido, o la capacidad de hacer frente a problemas imprevistos. En ambos casos, se trata de una inteligencia relacionada con la llamada racionalidad técnica o instrumental, perteneciente al ámbito de los medios.

Sin embargo, hay otra inteligencia, que es del orden de los fines. Es del tipo ético-político o teleológico, y también se preocupa por la adecuación de los medios a los fines, es decir, también posee el elemento instrumental. No obstante, tan importante o más para esta inteligencia es la validez de los fines mismos. ¿Merecen ser alcanzados? ¿Por qué? ¿A qué precio?

Volveremos sobre este punto más adelante. Veamos ahora qué significa el segundo término de la expresión "inteligencia artificial".

Sin mucho esfuerzo, cuando pensamos en la noción de artificial, inmediatamente nos viene a la mente su contrapunto: "natural". Así, lo artificial sería todo lo que no es natural. Pero si se examina la cuestión con más detenimiento, surge un nuevo problema: si lo natural es todo lo relacionado con la naturaleza o derivado de ella, ¿habría algo no natural, algo esencialmente artificial? Si extendemos la noción de naturaleza al propio universo, ¿qué podría ser antinatural, aparte de la metafísica? Nada, a menos que pensemos en lo artificial como algo no producido directamente por la naturaleza, sino cuya producción, cuya existencia fue mediada por la acción humana.

Y, de hecho, pensándolo bien, este es precisamente el significado de "artificial" en sentido común, que expresa la separación tácita entre humanidad y naturaleza, entre el sujeto pensante y el mundo en el que actúa, el mundo objeto del pensamiento y la acción del sujeto, que incluye a otros sujetos convertidos en objetos. Esta idea es tan característica de la cultura moderna que incluso parece natural. Pero no es común a todos los pueblos y no puede sostenerse: no existe la naturaleza y el mundo natural por un lado, y el mundo humano y artificial por otro. Solo hay un mundo.

Lo que hay es la capacidad humana, sin transgredir las leyes naturales, lo que no es posible fuera del mito de descubrir nuevas combinaciones de sustancias y poderes naturales, y producir así cosas que no estaban dadas, transformando el mundo y a sí mismo, para bien o para mal.

Por tanto, lo "artificial" no se opone a lo "natural", sino que lo natural está mediado por la acción humana. Teniendo en cuenta esto, ¿cuándo se puede afirmar con rigor que este tipo de mediación es propiamente inteligente? En el sentido técnico o instrumental, los ejemplos son innumerables. En el sentido ético-político o teleológico, no tanto.

Una de las celebridades de la llamada inteligencia artificial son los algoritmos. Pensemos entonces en la mediación algorítmica de las plataformas digitales a partir de los argumentos anteriores. ¿Hay inteligencia en acción allí? Volvamos a nuestra definición de "inteligencia": a primera vista, la inteligencia es "la capacidad de resolver problemas y superar obstáculos para producir un resultado o alcanzar un objetivo previamente establecido, o la capacidad de librarse de problemas imprevistos".

Ahora bien, en ese sentido, los algoritmos demuestran ciertamente una inteligencia notable. Sin embargo, ¿quién los creó? ¿Quién es realmente el sujeto inteligente detrás de los algoritmos? ¿Sus programadores? Ciertamente, porque es gracias a su propia inteligencia que se producen. Pero todavía estamos en el nivel de la inteligencia técnica o instrumental, ya sea en el caso de los algoritmos o de los propios programadores.

Al fin y al cabo, si pensamos en el segundo nivel de la citada noción de inteligencia, que llamamos ético-político o teleológico, ¿quién es el sujeto de esta inteligencia, el que no elabora los medios, sino que establece la meta de la acción como legítima y merecedora de inversión? Este sujeto está movido por un propósito, por un deseo, por un fin. Tiene el poder de poner los medios en acción. ¿Quién es este sujeto? Los propietarios de las plataformas digitales y sus accionistas. ¿Cuál es su propósito, su deseo, su fin? Enriquecerse.

Pues bien, desde el punto de vista de estos individuos, la movilización de la inteligencia artificial de programadores y algoritmos, cuando es eficiente, es una prueba de su propia inteligencia. Decimos que la inteligencia de los programadores es también artificial, como toda inteligencia concebible, en la medida en que está mediada por toda la historia de mediaciones materiales y culturales que permitieron su formación como programadores. No han nacido así.

Por otro lado, ¿la expansión de los capitales de los propietarios de las corporaciones que controlan las plataformas digitales y de sus accionistas es efectivamente inteligente desde el punto de vista de la humanidad en su conjunto y de la propia naturaleza?

A la luz de un conjunto de alarmantes fenómenos contemporáneos, la respuesta difícilmente será positiva, como el colapso ambiental y el regreso del hambre en Brasil, en gran medida resultado del crecimiento de la desinformación digital en la red, cargada de discursos de odio, irracionalismo, misoginia, racismo, homofobia, negacionismo climático, el auge de los movimientos antivacunas y, atando cabos, el fascismo.

Por tanto, no se trata de un problema técnico, sino ético-político, que no puede evitar la actualización de la crítica al capitalismo. Pues el problema que se plantea todavía y de forma inevitable es la contradicción entre el interés público, que obviamente incluye la preservación de la naturaleza, y los intereses empresariales. Pues el capital, que es como el sujeto inconsciente de todo el proceso, posee una inteligencia de lo más artificial en el sentido de movilizar los recursos humanos y naturales para su propio crecimiento, que es su único fin.

Al mismo tiempo, esto ha demostrado ser el colmo de la estupidez, para la humanidad y la naturaleza en su conjunto, estupidez entendida aquí en el sentido conjugado de no inteligencia y brutalidad.

Este cuadro ilustra las tendencias dominantes de nuestra época. Si somos inteligentes, tenemos que cambiar de rumbo.

* Marco Schneider es profesor de Comunicación y Ciencias de la Información de la Universidad Federal de Río de Janeiro (UFRJ). Coordinador del Centro Internacional de Ética de la Información en América Latina. Miembro de la Red Nacional de Lucha contra la Desinformación.

** Texto original publicado en Latinoamérica21