Logo de Confidencial Digital

PUBLICIDAD 1M

PUBLICIDAD 4D

PUBLICIDAD 5D

La inteligencia artificial entre la ética y la ley

Inevitables resultan las cantidades de análisis y propuestas para normar la conducta de la inteligencia artificial (IA)

Foto: Agencias

AA
Share

I. Inevitable regular el desarrollo de la IA

Inevitables resultan las cantidades de análisis y propuestas para normar la conducta de la inteligencia artificial (IA). Se trata de la herramienta más riesgosa creada por la humanidad. Desafía nuestra existencia. Más allá de las infinitas bondades que trae aparejadas, nunca antes había existido un invento que retara y pusiese en peligro nuestro futuro. De entrada deseo plantear que no pertenezco al grupo de quienes pregonan y abominan su aparición. Más bien me ubico entre quienes advierten la necesidad de ser cautelosos y tomar providencias para evitar cualquier descarrilamiento irreparable. Algo que pregonan sin cesar sus más reputados impulsores. Una realidad incuestionable.

El 12 de marzo del presente año los medios hicieron público un informe solicitado por la Casa Blanca que plantea la necesidad de evitar riesgos para la seguridad nacional de Estados Unidos, derivados de la invención de la IA. Sus autores afirman que representa “una amenaza a nivel de extinción para la especie humana”. El estudio financiado por el Departamento de Estado llama a “prohibir temporalmente la creación de IA avanzada que supere un determinado umbral de potencia computacional”. Pide otorgar poderes de emergencia “para responder a incidentes peligrosos y rápidos relacionados con la IA”. Una recomendación para contener la propagación de armas cataclísmicas.

II. El criterio del presidente de Microsoft


Con tales antecedentes resultan más que convincentes las sugerencias de Brad Smith, presidente de Microsoft, empresa impulsora del desarrollo de la IA. Smith entra de frente al tema. Con más de treinta años en el sector, manifestó públicamente que “la diferencia entre la promesa y el peligro de la nueva tecnología rara vez ha sido más impactante”. Motivo de más para mostrarse cauteloso a la hora de emitir opiniones. Sus planteamientos coinciden con los de Kate Crawford, especialista en IA que trabaja en la institución dirigida por Smith. Ambos proponen salvaguardas en el momento de mayor inflexión que atraviesa el planeta. Nada resulta sobrancero en esta hora decisiva.

Smith trata de llevar sosiego, se muestra partidario de pagar los derechos de autor y es sumamente prudente en sus afirmaciones. Muy explicativo y ajeno a toda estridencia trata de aquietar los ánimos y sobresaltados provocados por el ímpetu frenético de ciertos agoreros de la IA. Sus expresiones son un sedante. Manifiesta que la IA es el invento más importante para la mente humana desde la invención de la imprenta. Esto ocurrió hace casi 600 años. Nada más que debemos considerar que este invento es de naturaleza diferente. La imprenta jamás puso en peligro la supervivencia humana. Sin demeritar su importancia, con la IA acontece todo lo contrario. Vivimos un momento límite.

Una de las afirmaciones de Smith es idéntica a la postulada por Crawford. Se muestran convencidos de la necesidad de ralentizar el desarrollo de la IA y de regular su funcionamiento sin atorar su crecimiento. Las aseveraciones de la persona que tiene bajo su mando a Microsoft deberían ser tomadas en cuenta por gobiernos y legisladores de distintas latitudes. Son lúcidas y preventivas. Su razonamiento puede entenderlo y asimilarlo hasta el menos versado. Con mucha mayor razón los dueños e impulsores de la IA. No creo que juegue a engañarnos o simplemente pretenda sosegarnos. Su juicio es demasiado claro e ilustrativo. No hay por donde perderse. Sin ningún paliativo sostiene:

“Necesitamos un nivel de regulación que garantice la seguridad. A veces me sorprende cuando observo a personas en el sector tecnológico que dicen que no deberíamos tener esa regulación. Cuando compramos un cartón de leche en el supermercado no nos preocupamos de si es seguro beberlo, porque sabemos que hay una base de seguridad que lo garantiza. Si esta es, como creo que es, la tecnología más avanzada del planeta, no creo que sea irracional pedir que tenga al menos tanta regulación de seguridad como la que tenemos para un cartón de leche”.

III. Necesidad de someter la IA a normas éticas

En la misma dirección apuntan las consideraciones del catalán Marc Serramíà. En vez de proponer normas jurídicas, afirma que la IA debería ser regulada a través de disposiciones éticas. El joven treintañero ganador del Premio de la Sociedad Científica Informática de España y la Fundación BBVA, con una tesis doctoral innovadora, propone regular el tráfico de la IA. Ingeniero especialista en IA oficia como profesor en el Departamento de Computación de la Universidad de la City de Londres. Al igual que el tráfico en las carreteras es regulado para preservar vidas, expresa que algo similar debería ocurrir con relación al funcionamiento de la IA. Emitir normas regulatorias de carácter ético.

Su reflexión es de una simpleza inobjetable. Los fármacos que consumimos deben tener efectos positivos primarios y sus efectos secundarios deben ser mucho menores que los efectos primarios. Con el diseño de los algoritmos hay que plantearse algo parecido. “… sabemos que la función principal la va a hacer ver bien, pero no si tendrá efectos secundarios. En el caso de los medicamentos o de las armas lo vemos muy claro, pero con la IA no tanto”. El terreno ético apenas ha sido explorado. Expertos ajenos a los emporios encargados de acelerar el desarrollo de la IA, son quienes han tomado la delantera denunciando los efectos nocivos e incalculables daños que esta presupone.

Como la mayoría de especialistas, comienza por alertar sus consecuencias adversas en la privacidad de las personas. Siempre es posible deducir una ingeniería inversa y servir datos personalizados para saber si pueden concederte un crédito bancario o si tienes el perfil adecuado para el cargo que ofrecen. Algo que viene siendo explotado. Samarríà se equivoca en sugerir que la IA pueda recabar y exponer cosas que nos gustan. Sin duda este es uno de sus éxitos deslumbrantes en el campo político y publicitario. Sus críticas al desarrollo de armas autónomas son cruciales. El nivel de producción se encuentra muy avanzada. Por ahora son drones. En el futuro serán robots humanoides armados.

En el campo estrictamente ético asegura que sería ideal contar con productos con esta clase de respaldo. “Se debería empezar por los productos de consumo, como los altavoces inteligentes: si vas a una tienda y ves uno que está certificado, conforme ha habido un estudio ético detrás que asegura que respeta la privacidad, es probable que compres ese y no otro”. Posee una ingenuidad asombrosa. Sus propuestas son para el día de mañana. Cuando el tiempo apremia, teoriza “cómo diseñar el día de mañana, cuando la IA lo rodee todo, un sistema de normas tales que nos asegure que los sistemas estarán alineados con nuestros valores”. Como sostenía Keynes, mañana todos estaremos muertos.

IV. Dos propuestas y una sola finalidad

Es curioso que especialistas de origen estadounidense y europeos sostengan la necesidad no solo de ralentizar el desarrollo la IA, sino que también prescriban la absoluta conveniencia de regularla. Los europeos siempre han sido afines al establecimiento de regulaciones, no así los estadounidenses. Me atrevo a sostener que las coincidencias obedecen a que los grandes expertos están convencidos que desconocen hacia dónde se dirigen sus resultados. Nadamos en el reino de la incertidumbre. Ninguno está claro de cuáles serán las derivaciones reales de este poderoso dispositivo. Esta circunstancia les obliga a ser precavidos. ¿Les oirán esta vez los tomadores de decisión?

Existe un problema adicional difícil de sortear. Dentro de los argumentos vertidos hay uno en el que todos coinciden. Si un país ralentiza su desarrollo habrá otras naciones que no querrán hacerlo. ¿Un escollo insuperable? En la carrera vertiginosa de las grandes potencias por disponer de las armas letales más avanzadas, ninguna quiere verse rezagada. El destino de la humanidad pende de las decisiones que finalmente adopten las potencias. Oleksandr Kamyhsin, ministro de Industrias Estratégicas de Ucrania, tiene como objetivo inmediato sacar a las personas del frente de batalla y sustituirlas por máquinas. En todas las guerras se ha puesto a prueba el armamento más desarrollado.

Los únicos recursos a mano para evitar el descalabro, siguen siendo normar por las dos vías —jurídica y ética— el ascenso apresurado e incontenible de la IA.

PUBLICIDAD 3M


Tu aporte nos permite informar desde el exilio.

La dictadura nos obligó a salir de Nicaragua y pretende censurarnos. Tu aporte económico garantiza nuestra cobertura en un sitio web abierto y gratuito, sin muros de pago.



Guillermo Rothschuh Villanueva

Guillermo Rothschuh Villanueva

Comunicólogo y escritor nicaragüense. Fue decano de la Facultad de Ciencias de la Comunicación de la Universidad Centroamericana (UCA) de abril de 1991 a diciembre de 2006. Autor de crónicas y ensayos. Ha escrito y publicado más de cuarenta libros.

PUBLICIDAD 3D