La otra cara de la IA: Cómo ChatGPT se ha convertido en una amenaza para la ciberseguridad

Te contamos cómo los ciberdelincuentes utilizan ChatGPT para promover estafas y amenazar a la ciberseguridad.

• ChatGPT permite escribir una tarea y dar una respuesta que solucione dicho problema.
• Se han identificado casos en los que ChatGPT se ha empleado para escribir código malicioso.

Cuando OpenAI lanzó su revolucionario modelo lingüístico ChatGPT en noviembre, millones de usuarios quedaron impresionados por sus capacidades. Para muchos, sin embargo, la curiosidad pronto dio paso a una seria preocupación por el potencial de la herramienta que podía ser usada por los ciberdelincuentes. En concreto, ChatGPT abre nuevas vías para que los piratas informáticos puedan vulnerar el software avanzado de ciberseguridad.

¡TUITÉALO! ¿La IA es una amenaza para la ciberseguridad? ChatGPT puede ser utilizado por ciberdelincuentes para promover estafas y amenazar la seguridad. Lee más aquí.

El impacto de la inteligencia artificial en la ciberseguridad

El programa de inteligencia artificial, creado por OpenAI, permite a los usuarios escribir una pregunta o una tarea, y el software dará una respuesta diseñada para imitar a un humano. Se ha entrenado con una enorme cantidad de datos, lo que se conoce como un gran modelo lingüístico, que le ayuda a dar respuestas sofisticadas a las preguntas y peticiones de los usuarios.

También puede programar código, lo que convierte a la IA en un ahorro de tiempo potencial para desarrolladores de software, programadores y otros profesionales de la informática. Incluidos los ciberdelincuentes, que podrían utilizar las habilidades del robot con fines malévolos.

Para un sector que ya se tambalea por un aumento global del 38% en las violaciones de datos en 2022, es fundamental que los líderes reconozcan el creciente impacto de la IA y actúen en consecuencia.

La empresa de ciberseguridad Check Point Software Technologies afirma haber identificado casos en los que ChatGPT fue utilizado con éxito para escribir código malicioso. Este código podría robar archivos informáticos, ejecutar malware, suplantar credenciales o cifrar todo un sistema en un esquema de ransomware.

Según los expertos, los ciberdelincuentes, que parecían tener conocimientos técnicos limitados, habían compartido sus experiencias utilizando ChatGPT, y el código resultante, en foros clandestinos de piratería informática.

Cómo funciona ChatGPT y por qué es atractivo para los ciberdelincuentes

ChatGPT fue desarrollado por el laboratorio de investigación de inteligencia artificial OpenAI, y lanzado en noviembre de 2022. Se trata de un gran modelo de lenguaje que utiliza una combinación de técnicas de aprendizaje automático supervisado y de refuerzo.

Se ajusta y entrena constantemente gracias a los usuarios, que pueden votar sus respuestas al alza o a la baja. Esto lo hace aún más preciso y potente, ya que recopila datos por sí solo.

Esto es lo que diferencia a ChatGPT de otros chatbots. A diferencia de otros productos similares, es capaz de participar activamente en una conversación y completar tareas complejas con una precisión asombrosa. A la vez que ofrece respuestas coherentes y similares a las humanas.

Pero el poder de ChatGPT no reside en su capacidad para conversar. Más bien reside en su capacidad casi ilimitada para completar tareas en masa, de forma más eficiente y mucho más rápida de lo que lo haría un ser humano. Con las entradas y comandos adecuados y algunos trucos creativos, ChatGPT puede convertirse en una herramienta de automatización increíblemente potente.

Teniendo esto en cuenta, no es difícil imaginar cómo un ciberdelincuente podría convertir ChatGPT en un arma. Se trata de encontrar el método adecuado, escalarlo y hacer que la IA complete tantas tareas como sea posible a la vez, con múltiples cuentas y en varios dispositivos si es necesario.

Cómo ChatGPT amenaza la ciberseguridad

La ciberseguridad se ha convertido en una preocupación cada vez mayor para individuos y empresas por igual en la era de la tecnología y la información, debido al aumento de los ciberataques como el phishing y otros tipos de amenazas en línea.

Phishing

• A pesar de lo potentes que se han vuelto los filtros de spam, los peligrosos correos electrónicos de phishing siguen colándose por las rendijas. Y no hay mucho que el ciudadano de a pie pueda hacer, salvo denunciar al remitente a su proveedor. Pero hay mucho que un actor de amenazas capaz podría hacer con una lista de correo y acceso a ChatGPT.
• Con los comandos y sugerencias adecuados, ChatGPT puede generar correos electrónicos de phishing convincentes, automatizando potencialmente el proceso para el actor de la amenaza y permitiéndole escalar sus operaciones.

Webs fraudulentas  

• Si buscas en Google el término «crear un sitio web con ChatGPT», encontrarás un montón de tutoriales que explican con todo detalle cómo hacerlo. Aunque esto es una buena noticia para cualquiera que quiera crear un sitio web desde cero, también lo es para los ciberdelincuentes. ¿Qué les impide usar ChatGPT para construir un montón de sitios de estafa, o páginas de aterrizaje de phishing?
• Las posibilidades son casi infinitas. Un ciberdelincuente podría clonar un sitio web existente con ChatGPT y luego modificarlo, construir sitios web de comercio electrónico falsos, ejecutar un sitio con estafas de scareware, y así sucesivamente.

Crear spam y engaños

• Para crear un sitio web falso, gestionar una página fraudulenta en las redes sociales o crear un sitio que imite a otro, se necesita mucho contenido. Y tiene que parecer lo más legítimo posible para que la estafa funcione. ¿Por qué contrataría un ciberdelincuente a redactores de contenidos o escribiría entradas de blog por su cuenta cuando puede hacer que ChatGPT lo haga por él?
• Es cierto que un sitio web con contenido generado por IA probablemente sería penalizado por Google con bastante rapidez y no aparecería en los resultados de búsqueda. Pero hay muchas maneras diferentes en las que un hacker podría promover un sitio web, enviar tráfico y estafar a la gente con su dinero o robar su información personal.

Como toda tecnología, ChatGPT no es ni intrínsecamente útil ni perjudicial. A pesar de algunas deficiencias, es con diferencia el chatbot más capaz jamás lanzado al público. Sin embargo, también debe tenerse en cuenta que sus ventajas se pueden convertir en un arma de doble filo.