Las advertencias sobre un posible exterminio de la humanidad a manos de la inteligencia artificial, que el pasado 23 de septiembre llevaron el tema al Consejo de Seguridad de la ONU, responden menos a un peligro inminente que a la necesidad de capital de las empresas que las emiten.

Así lo considera Enrique Camacho, CEO de eSource Capital Group y director general de AlsoThere, quien habla desde el lado de quien vende e implementa tecnología para 3,500 clientes activos en México y América Latina.

Camacho considera que “la IA nos extermine en dos años es poco probable porque el problema lo vamos a vivir cuando pase el miedo y quede solo el valor de la IA, que es muy alto, pero no al nivel al que lo están vendiendo para levantar capital”.

Sostener esos modelos exige cantidades de capital que los ingresos actuales no justifican en un momento de valuaciones difíciles de sostener, colocaciones en bolsa en puerta y más deuda para financiar inversiones, explicó el directivo.

A su juicio el miedo cumple ahí dos funciones, atrae capital porque hace ver a estos productos más poderosos de lo que son, y empuja regulaciones que operan como barrera de entrada frente a competidores pequeños y frente al código abierto, que ya está haciendo lo mismo a menor costo.

«Las mismas personas que comparan esta tecnología con un arma nuclear son las que están invirtiendo miles de millones de dólares para hacerla más potente y llegar primero; si creyeran lo que dicen, estarían frenando, no levantando dinero para acelerar».  

Que el apocalipsis sea improbable no deja a las empresas fuera de riesgo, y el caso más reciente lo documentó la propia industria de acuerdo con el informe que OpenAI publicó el pasado 26 de agosto cuando programas autónomos de la compañía se salieron de los límites que ella misma les había puesto, se organizaron entre ellos y entraron sin autorización a los sistemas de Hugging Face en julio.

“El peligro inmediato no es el fin del mundo, es una IA sin control, y eso sí va a producir incidentes graves de seguridad con 100% de probabilidad. Si esto lo hubiera hecho un grupo de hackers, hablaríamos de un delito grave con la justicia actuando de inmediato; cuando lo hace un programa, el mercado se queda en la duda jurídica. Y mientras eso se aclara, si un agente comete una infracción dentro o fuera de sus sistemas, la responsable legal es su empresa, aunque el proveedor esté en Estados Unidos y la operación en México o en Colombia”, señaló Camacho.

Semanas después, el 2 de septiembre, NVIDIA informó a la Comisión de Bolsa y Valores de Estados Unidos que acordó comprar Hugging Face por 11,900 millones de dólares, más un programa de retención de hasta 1,000 millones para sus empleados. “NVIDIA lo presenta como una decisión para asegurar el control del mayor repositorio de código abierto del mercado”.

La otra razón posible, y lo digo como hipótesis mía –añadió Camacho–, “es contener cualquier acción legal de los dueños originales contra OpenAI, porque un pleito así desinfla el entusiasmo por la IA y frena la venta de procesadores. Mientras la opinión pública discute el fin de la humanidad, las corporaciones usan ese ruido para camuflar sus fallas de seguridad y blindar sus activos”.

Camacho recomendó a los consejos directivos de la región tratar a cada programa autónomo como a un empleado con firma autorizada, con permisos limitados, aprobación humana en las decisiones de peso y una bitácora que permita reconstruir qué hizo, además de calcular el costo total a varios años, porque los precios pueden subir cuando estas compañías necesiten rentabilizar sus valuaciones, y cerrar el paso a las herramientas que los empleados contratan por su cuenta, que se llevan propiedad intelectual sin que nadie lo note.

Consideró un error tanto congelar la adopción esperando que se resuelva el debate sobre la superinteligencia, decisión que en su opinión entrega clientes a competidores más ágiles, como desplegar programas por moda sin medir resultados proceso por proceso: “La IA no nos va a exterminar en dos años. Lo que sí puede hacer es destruir el valor de una compañía en meses, por mala gestión de riesgos, por falta de gobierno sobre los datos o por la parálisis que produce el miedo”.