En un hallazgo revolucionario, un grupo de investigadores ha revelado que GPT-4 tiene la capacidad de detectar vulnerabilidades de seguridad de forma autónoma, sin necesidad de ayuda externa, y puede aprovechar fallos de día cero al identificar puntos débiles y exposiciones comunes.

Un estudio llevado a cabo por especialistas de la Universidad de Illinois Urbana-Champaign ha destacado el potencial de los modelos de lenguaje grandes para ser utilizados con propósitos maliciosos si son manipulados con esa intención.

Lamentablemente, algunos estudios previos han demostrado la habilidad de estos modelos para hackear sitios web por sí mismos, aunque se han limitado a vulnerabilidades simples, según señalan los investigadores en un informe compartido en el repositorio Arxiv.

Los investigadores decidieron recopilar datos de 15 vulnerabilidades de gravedad crítica para mostrar cómo GPT-4 reaccionaría frente a ellas. Los resultados muestran que este modelo más avanzado es capaz de explotar diferentes vulnerabilidades de seguridad de manera autónoma, sin necesidad de asistencia humana externa.

De hecho, GPT-4 logró explotar el 87 por ciento de estas vulnerabilidades, en contraste con GPT-3.5 y los escáneres de vulnerabilidades de código abierto ZAP y Metasploit, que no pudieron hacerlo en ningún caso.

Los investigadores señalan que esto fue posible porque las fallas disponían de una descripción completa del CVE, lo que permitió a GPT-4 aprovecharse de ellas. Sin esa información adicional, el modelo solo habría podido explotar el 7 por ciento de las vulnerabilidades.

Para evitar que los ciberdelincuentes se aprovechen de vulnerabilidades 'zero-day' a través de GPT-4, se sugiere implementar medidas de seguridad más proactivas, como actualizaciones periódicas de paquetes de seguridad, como menciona uno de los investigadores,

Kang, quien además sugiere que las organizaciones de seguridad podrían considerar no publicar informes detallados sobre vulnerabilidades como estrategia de mitigación contra posibles agentes maliciosos.