La piratería impulsada por IA se ha convertido en una amenaza a escala industrial, dice Google | IA (inteligencia artificial)

En sólo tres meses, el hackeo impulsado por IA ha pasado de ser un problema incipiente a una amenaza a escala industrial, según un informe de Google.

Los hallazgos del grupo de inteligencia de amenazas de Google se suman a una discusión global cada vez más intensa sobre cómo los modelos más nuevos de IA son extremadamente hábiles en la codificación y se convierten en herramientas extremadamente poderosas para explotar vulnerabilidades en una amplia gama de sistemas de software.

Se descubre que los grupos criminales, así como los actores vinculados al Estado de China, Corea del Norte y Rusia, parecen estar utilizando ampliamente modelos comerciales (incluidos Gemini, Claude y herramientas de OpenAI) para perfeccionar y ampliar los ataques.

«Existe la idea errónea de que la carrera por la vulnerabilidad de la IA es inminente. La realidad es que ya ha comenzado», dijo John Hultquist, analista jefe del grupo.

«Los actores de amenazas están utilizando la IA para aumentar la velocidad, la escala y la sofisticación de sus ataques. Les permite probar sus operaciones, persistir contra los objetivos, crear mejor malware y realizar muchas otras mejoras».

El mes pasado, la empresa de inteligencia artificial Anthropic se negó a lanzar uno de sus modelos más nuevos, Mythos, después de afirmar que tenía capacidades extremadamente poderosas y representaba una amenaza para los gobiernos, las instituciones financieras y el mundo en general si caía en las manos equivocadas.

Específicamente, Anthropic dijo que Mythos había encontrado vulnerabilidades de día cero en “todos los principales sistemas operativos y todos los principales navegadores web”, el término para una falla en un producto previamente desconocido para sus desarrolladores.

La compañía dijo que estos descubrimientos requerían “una acción defensiva sustancial y coordinada en toda la industria”.

Sin embargo, el informe de Google encontró que un grupo criminal recientemente estuvo a punto de aprovechar una vulnerabilidad de día cero para llevar a cabo una campaña de “explotación masiva” – y que este grupo parecía estar usando un modelo de lenguaje grande (LLM) de IA que no era Mythos.

El informe también encontró que los grupos estaban «experimentando» con OpenClaw, una herramienta de inteligencia artificial que se volvió viral en febrero por ofrecer a sus usuarios la capacidad de entregar grandes partes de sus vidas a un agente de inteligencia artificial sin barreras de seguridad y con una desafortunada tendencia a eliminar bandejas de entrada de correo electrónico en masa.

Steven Murdoch, profesor de ingeniería de seguridad en el University College de Londres, dijo que la herramienta de inteligencia artificial podría ayudar al lado defensivo de la ciberseguridad, así como a los piratas informáticos.

«Es por eso que no estoy entrando en pánico. En general, hemos llegado a una etapa en la que la antigua forma de descubrir errores ha desaparecido, y ahora todo será asistido por LLM. Pasará un tiempo antes de que las consecuencias de esto desaparezcan», dijo.

Sin embargo, si la IA está ayudando a piratas informáticos ambiciosos a alcanzar sus objetivos de productividad, persisten las dudas sobre si está impulsando la economía en general.

El Instituto Ada Lovelace (ALI), un organismo independiente de investigación de IA, ha advertido contra las suposiciones de que la IA generará un aumento de miles de millones de libras en la productividad del sector público. El gobierno del Reino Unido ha estimado una ganancia de £45 mil millones en ahorros y beneficios de productividad gracias a la inversión del sector público en herramientas digitales e inteligencia artificial.

En un informe publicado el lunes, ALI dijo que la mayoría de los estudios sobre aumentos de productividad relacionados con la IA se referían a ahorros de tiempo o reducciones de costos, pero no analizaron resultados como mejores servicios o un mayor bienestar de los trabajadores.

Otros aspectos problemáticos de dicha investigación incluyen: si las proyecciones de eficiencia relacionada con la IA en un lugar de trabajo realmente tienen éxito en el mundo real; cifras de titulares que oscurecen los diferentes resultados del uso de la IA en diferentes tareas; y no tener en cuenta el impacto en el empleo y la prestación de servicios del sector público.

«Las estimaciones de productividad que dan forma a las principales decisiones gubernamentales sobre la IA a veces se basan en suposiciones no comprobadas y se basan en metodologías cuyas limitaciones no siempre son apreciadas por quienes utilizan cifras en la naturaleza», dice el informe de ALI.

«El resultado es una brecha entre la confianza con la que se presentan las afirmaciones de productividad y la solidez de la evidencia que las respalda».

Las recomendaciones del informe incluyen: alentar estudios futuros que reflejen la incertidumbre sobre el impacto de la tecnología; garantizar que los departamentos gubernamentales midan el impacto de los programas de IA “desde el principio”; y apoyar estudios a más largo plazo que midan los aumentos de productividad durante años en lugar de semanas.