El CEO de Anthropic, Dario Amodei, rechazó recientemente la idea de que ha estado pintando un panorama excesivamente pesimista de la inteligencia artificial y de cómo podría moldear el futuro.

Los comentarios de Amodei llegaron en respuesta al inversor Gavin Baker, quien argumentó — tanto en el podcast All-In como en X — que las advertencias de Amodei sobre los peligros de la IA han ayudado a alimentar una reacción en contra en Estados Unidos, particularmente contra los centros de datos.

Baker afirmó que Amodei ha “perdido el argumento” cuando se trata de la regulación de la IA (Anthropic ha defendido algunas regulaciones, incluyendo un proyecto de ley en California que impone requisitos de transparencia a las grandes empresas de IA), y dado que “está a punto de ser el CEO de una de las empresas más importantes del mundo”, escribió: “respetuosamente creo que debería esforzarse por ser un defensor más positivo de su propia industria”.

Baker no es el único que argumenta que el escepticismo hacia la IA e incluso las medidas gubernamentales son una respuesta natural a las sombrías advertencias de algunos ejecutivos de IA. Pero en una serie de publicaciones, Amodei discrepó con la idea de que su “mensaje ha sido desproporcionadamente negativo”. En cambio, dijo que sus escritos han estado “más o menos igualmente equilibrados entre riesgos y beneficios”, y que escribió su ensayo “Machines of Loving Grace” porque “no sentía que la industria de la IA estuviera pintando un panorama lo suficientemente inspirador de cómo la tecnología podría transformar radicalmente el mundo para mejor”.

”Es fundamentalmente una crisis de confianza”

No obstante, Amodei reconoció que “el público tiene una visión negativa de la IA” y aceptó que “esto es un gran problema”. Donde discrepó fue con la idea de que esta negatividad es “causada principalmente” por Amodei “o cualquier otro líder de IA que advierta sobre los riesgos”.

“Creo que es fundamentalmente una crisis de confianza. La gente común no confía en las empresas, los gobiernos o la industria tecnológica, y siempre sospecha que estamos inventando alguna nueva forma de perjudicarlos.”

De hecho, “confianza” es una palabra que aparece a menudo en los titulares sobre el CEO de OpenAI, Sam Altman, y aparentemente también es un problema para otros CEOs de IA como Amodei. En la versión de Amodei, sin embargo, esta es una crisis que lleva décadas gestándose, y la reacción contra la IA es “solo la última iteración de ella”.

La crítica que Amodei sí acepta

“Creo que con diferencia la crítica más precisa a las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido nuestras grandes promesas de beneficiar al mundo”, dijo Amodei. “Eso es totalmente culpa nuestra, y creo que es la crítica que deberían hacer, en lugar de todo esto sobre mensajes y marketing”.

Dicho de otra manera: prometer que la IA curará el cáncer es “más un cliché que algo inspirador”; lo que realmente cambiaría la opinión de la gente sobre la IA sería “curar el cáncer de verdad”.

“La crítica más justa a las empresas de IA es que aún no hemos cumplido nuestras grandes promesas de beneficiar al mundo.”

Regulación: no es una falsa dicotomía

En cuanto a la regulación, Amodei argumentó que Baker estaba planteando “una falsa elección” entre distribuir la IA ampliamente sin regulación, o concentrar la tecnología en manos de unas pocas empresas mediante la regulación.

“Sé que existe una especie de taquigrafía de Silicon Valley donde regulación = captura regulatoria = concentración de poder, pero siempre he encontrado que esta es una imagen excesivamente simplificada del mundo”, dijo Amodei. “Muchas personas fuera de esta burbuja piensan en la regulación como algo que restringe el poder corporativo y beneficia a la gente común”.

Amodei agregó que no “necesariamente está de acuerdo con esa perspectiva tampoco”, pero dijo que es “por eso Anthropic siempre ha hecho sus propuestas de política con mucho cuidado”.

“Nos esforzamos mucho en hacer propuestas que perjudiquen (desaceleren) a las empresas de IA de frontera mientras benefician a los competidores más pequeños”, dijo.

¿Por qué hacer esas propuestas? Amodei dijo que, en su opinión, “la IA es estructuralmente una tecnología que tiende a concentrar el poder” y que “los pesos abiertos ayudan un poco con esto, pero están lejos de ser una solución suficiente porque simplemente trasladan la concentración a quienes tienen más cómputo y chips”.

“En contraste, creo que las ‘reglas de juego’ correctas pueden simultáneamente (a) abordar los riesgos cibernéticos, biológicos y de alineación de la IA, (b) restringir institucionalmente el poder de las empresas de IA de frontera, y (c) dejar espacio para los modelos de pesos abiertos mientras se abordan los riesgos específicos que estos traen”, dijo.

Para la comunidad tech de Latinoamérica, el debate tiene eco directo: la pregunta no es solo si la IA avanza, sino quién la controla y con qué reglas. La postura de Amodei — regulación que frene a los gigantes sin ahogar a los pequeños — es relevante para los ecosistemas emergentes donde los modelos de pesos abiertos son la puerta de entrada a la innovación local.

Este artículo fue actualizado para incluir más citas de las publicaciones de Amodei, incluidas las relacionadas con los pesos abiertos.

Sigue explorando estos temas en el blog de DojoFullStack: la regulación, la confianza y el futuro de la IA son los debates que definirán cómo trabajamos los desarrolladores en los próximos años.