En este extracto editado de una reciente conversación comercial de Nasdaq, el jefe de Ingeniería de Check Point, U. S East, Mark Ostrowski, analiza las preocupaciones que plantea ChatGPT-4.
Es una buena pregunta. Creo que lo que hemos descubierto desde noviembre del año pasado, cuando se lanzó ChatGPT por primera vez, es que ChatGPT realmente ha abierto las puertas a muchas cosas diferentes, algunas de las cuales son positivas and y otras que podemos discutir hoy.
Por ejemplo, ¿estos bots de IA se están volviendo sofisticados hasta el punto en que comenzarán a contribuir a niveles elevados de delitos cibernéticos?
En términos de la evolución de ChatGPT - 3 a ChatGPT-4, en realidad solo significa que la capacidad de procesamiento del lenguaje está mejorando; que es una herramienta más sofisticada, que las cosas se han ajustado a un nivel superior, abriendo nuevamente las puertas a los actores de amenazas que aprovechan la herramienta incluso más que antes.
Según las salvaguardas implementadas, si los actores de amenazas (o incluso los consumidores habituales) identifican palabras a las que la herramienta está programada para no responder, pueden navegar de manera efectiva por las salvaguardas cambiando la naturaleza de sus solicitudes.
Y cuando los actores de amenazas hacen eso, pueden mejorar las plantillas de phishing para hacerlas más creíbles…
Estas son preocupaciones válidas From desde una perspectiva cibernética, creo que es bastante simple. Hay muchos ataques conocidos para los cuales el otro lado de la casa, los profesionales de la seguridad cibernética, tienen que crear una mejor prevención. Ese tiene que ser el primer paso.
ChatGPT realmente no está creando muchos de estos resultados. Está aprovechando cosas que ya están ahí fuera. Por lo tanto, la implementación de las salvaguardas que la comunidad de seguridad cibernética ya tiene implementadas creará un cierto nivel de prevención, y luego podremos trabajar en cómo avanzar y cómo prevenir amenazas más sofisticadas relacionadas con los bots de inteligencia artificial.
Cuando piense en la ciberseguridad, recuerde que el aprendizaje automático y la inteligencia artificial han existido durante muchos años: la inteligencia artificial y el aprendizaje automático son fundamentales para permitirnos prevenir amenazas.
Ahora vemos que los actores de amenazas aprovechan las mismas herramientas. Entonces, cuando piensas, como mencionaste, en la próxima evolución de la seguridad cibernética, de lo que realmente estás hablando es casi AI vs.AI de alguna manera. Estas herramientas se pueden aprovechar para crear esa dinámica.
Para dar una analogía deportiva, ¿cuál es la mejor ofensiva? Una muy buena defensa. Para cualquier persona o empresa que busque crear mejores resultados de seguridad cibernética preventiva, asegúrese de que la inteligencia artificial y el aprendizaje automático formen parte de programas, proyectos y productos, porque lo necesita para combatir lo que existe hoy en día.
Ver el clip completo aqui. Interesado en aprender más sobre ChatGPT, inteligencia artificial, liderar a través del cambio y si la IA resultará o no en recortes de empleos? Obtenga información de liderazgo para el futuro optimizado para IA, aqui.
Post ChatGPT-4 y delitos cibernéticos, perspectivas de una conversación comercial de Nasdaq apareció primero en Charla cibernética.