- El CEO de Anthrope, Dario Amodei, estima que una IA de probabilidad del 25% conduce a la catástrofe
- Todavía cree que vale la pena invertir la IA y que los beneficios superan los riesgos
- Sus comentarios se ajustan a las crecientes conversaciones públicas y políticas sobre los riesgos y la regulación de la inteligencia artificial.
Uno de cada cuatro probabilidades puede parecer bastante bueno en algunas circunstancias. Son mucho mejores probabilidades que la mayoría de los juegos de casino, por ejemplo. Sin embargo, aparentemente es lo suficientemente improbable para que el CEO antrópico Dario Amodei parezca despreocupado después de fijar la posibilidad de que la inteligencia artificial conduzca a un desastre que termina la sociedad con un 25%.
«Creo que hay un 25% de posibilidades de que las cosas vayan muy, muy mal», dijo Amodei alegremente en la cumbre de Axios AI + DC cuando se le preguntó sobre su (P) fatalidad, probabilidad de fatalidad, creencia en torno a la IA. Pero está más concentrado en la «probabilidad del 75% de que las cosas van muy bien».
Por «realmente, muy mal», no quiere decir que su teléfono sea autocorrle «Pato» a algo peor. Se refiere a escenarios lo suficientemente grandes como para amenazar los sistemas sociales, los riesgos existenciales, la IA mal utilizada mal y los resultados fugitivos que podrían ser catastróficos.
. @Jimvandehei le pregunta al CEO de @ANTHROPY @Darioamodei qué probabilidad le daría a esa IA termina en desastre: «Creo que hay un 25% de posibilidades de que las cosas vayan muy, muy mal». #Axiosaisummit pic.twitter.com/9d7eqldync17 de septiembre de 2025
Para una industria a menudo empapada en promesa utópica o reducida a la ciencia ficción de Fearmongering, la actitud de Amodei sobre las probabilidades de un apocalipsis y por qué todavía está avanzando con la tecnología que se destacó.
Amodei no está solo en expresar inquietud, pero está en una posición rarificada. Como CEO de la compañía detrás de Claude, no es un observador pasivo. Está dando forma a la trayectoria de esta tecnología en tiempo real. Su equipo está construyendo los mismos sistemas cuyo potencial y peligro está pesando.
Si alguien le dijera que había una probabilidad de 1 en 4 que su automóvil explotara cada vez que giró la llave, podría comenzar a caminar más. AMODEI aparentemente se convertiría en mecánico y revisaría el automóvil primero antes de entrar.
Tienes una fatalidad
Esta tampoco es la única advertencia emitida por AModei sobre AI. Se advirtió antes que la IA podría eliminar la mitad de todos los trabajos de cuello blanco de nivel de entrada y sonó la alarma contra las exportaciones estadounidenses de chips de alta gama a China. Eso es lo que hace que el encuadre de Amodei sea tan útil. Reconoce el riesgo, cuantifica la incertidumbre, pero deja espacio para la agencia.
Por otro lado, el «75% de probabilidad del 75% de AModei va muy bien» no es optimismo por sí mismo. Implica la creencia de que la IA podría producir enormes beneficios para todos. Podría conducir a una medicina mejorada, una fabricación más eficiente, y tal vez incluso estrategias para abordar las crisis existenciales como el cambio climático (aunque un elemento clave para resolver esto podría ser la energía requerida para que los modelos de IA funcionen).
Pero el riesgo del 25% exige que esos beneficios se construyan cuidadosamente, con consideración por las medidas de seguridad y la regulación. Porque si el futuro es 75% brillante y 25% roto, la pregunta es: ¿qué vamos a hacer para mantener el peso del lado derecho?
