RESUMEN EJECUTIVO:
A medida que la revolución de la IA continúa barriendo el mundo, la herramienta ChatGPT de OpenAI se ha convertido en una fuerza innovadora en el ámbito del procesamiento del lenguaje natural. Con aplicaciones que abarcan todas las industrias y organizaciones, las posibilidades a veces parecen ilimitadas.
Pero con la adopción generalizada de modelos de lenguaje de IA, ChatGPT y tecnologías adyacentes, las preocupaciones sobre la privacidad y la seguridad de los datos han alcanzado un punto álgido.
Es por eso que hemos reunido los conocimientos prácticos y las recomendaciones estratégicas de cuatro profesionales de seguridad cibernética de primer nivel que pueden ayudarlo a proteger su organización de las amenazas potenciales que plantea la nueva tecnología.
Jonathan Fischbein es el Director Global de Seguridad de la Información de Check Point Software Technologies. Los CISO de campo Deryck Mitchelson, Cindi Carter y Pete Nicoletti cubren las regiones de EMEA y América para la empresa. Siga leyendo para obtener más información sobre sus perspectivas de expertos sobre este tema crítico.
"Las empresas que adopten el poder disruptivo de la IA generativa se encontrarán en una ventaja considerable . Sin embargo, aquellos que lo adoptan rápidamente necesitan mitigar las implicaciones de seguridad masivas que se incluyen con los beneficios.”
"Después de una decisión del equipo de administración ejecutiva sobre si permitir ChatGPT o no (personalmente apoyo y aliento la adopción de AI), comience con un enfoque simple y completo .
"El hecho de que ChatGPT esté bloqueado en varios países es una prueba de desconfianza relacionada con quién y cómo las entidades detrás de las plataformas de inteligencia artificial utilizarán los datos. Estas plataformas son nuevas y, a menudo, se consideran el nuevo "juguete más genial": los buenos pretenden aprovecharlo para un buen uso, mientras que los malos ya lo están utilizando para desarrollar una nueva generación de campañas cibernéticas sofisticadas. Ya hemos sido testigos de una serie de casos en los que la seguridad era muy baja o se pasaba por alto fácilmente.
En el lado de la privacidad, es otro desafío. Hubo un caso en el que las búsquedas en el historial de ChatGPT eran visibles para otros usuarios, lo que, por supuesto, muestra la inmadurez del nuevo juguete. Me temo que esta no es la última vez que escuchamos sobre malas prácticas de privacidad.”
"Falta regulación en todos los niveles posibles . La reciente decisión de Italia de prohibirlo es muy interesante, lo entiendo pero no lo apoyo. Entendemos que los requisitos de la política pueden tardar un tiempo en acostumbrarse, pero son esenciales para proteger nuestra información confidencial y mantener la privacidad y seguridad de nuestros clientes y empleados.”
"La inteligencia artificial es una tecnología que está transformando todos los ámbitos de la vida. Es una herramienta de amplio alcance que permite a las personas y las empresas repensar cómo integramos la información, analizamos los datos y utilizamos los conocimientos resultantes para mejorar la toma de decisiones.”
"Como uno de los avances tecnológicos de más rápido movimiento, existen crecientes preocupaciones sobre las implicaciones de privacidad con el uso del ChatGPT de OpenAI. Aunque los datos de ChatGPT se acumulan a partir de lo que se consideran fuentes disponibles públicamente, es la combinación de la entrada del usuario final lo que pone en riesgo los datos comerciales y personales confidenciales. Incluso cuando los datos están disponibles públicamente, su uso puede comprometer lo que se conoce como integridad contextual. Este es un principio fundamental en las discusiones legales sobre privacidad. Requiere que la información de los individuos no se revele fuera del contexto en el que se produjo originalmente. Además, los datos en los que ChatGPT recibió capacitación pueden ser propietarios o estar protegidos por derechos de autor.
OpenAI, la compañía detrás de ChatGPT, no ofrece procedimientos para que las personas verifiquen si la compañía almacena su información personal o para solicitar que se elimine. Este es un derecho garantizado de acuerdo con el Reglamento General de Protección de Datos Europeo (GDPR), aunque todavía se debate si ChatGPT cumple con los requisitos de GDPR. Este "derecho al olvido" es particularmente importante en los casos en que la información es inexacta o engañosa, lo que puede ser el caso.
Por último, es importante reconocer que el crecimiento sin precedentes de ChatGPT puede hacer que la plataforma sea excepcionalmente vulnerable, ya que sus creadores se apresuran a mantenerse al día con la demanda""
"Hemos estado construyendo la próxima evolución digital durante muchos años, y finalmente ha llegado. El bombo publicitario de Siri, Cortana, Lyra y los chatbots, que en el mejor de los casos decepcionó, ha sido reemplazado por un avance que dará forma a la interacción digital para la próxima generación y más allá. Los casos de uso de ChatGPT son ilimitados, esta tecnología no es solo para los súper geeks, fanbois y aquellos que desean aprobar sus exámenes escolares, sino que se integrará rápidamente en todos los sectores y servicios comerciales, incluidos los de salud, legal, arquitectura, entretenimiento, comercio minorista, tecnología y ciberseguridad.”
"Al igual que con todas las tecnologías/innovaciones, las organizaciones deben realizar evaluaciones detalladas de riesgos y evaluaciones de impacto en la privacidad de los datos para comprender qué datos se procesarían, dónde, por quién, con qué propósito, períodos de retención y cualquier acuerdo de intercambio de datos""
"No me sorprende que los países estén considerando su uso apropiado, sin embargo, la velocidad de la respuesta de Italia me sorprende. Es discutible si ChatGPT cumple plenamente con la legislación GDPR, en particular el derecho al olvido. Sin embargo, no estoy seguro de que prohibir la innovación sea lo correcto: necesitamos una gobernanza, responsabilidad y transparencia adecuadas que, con suerte, las regulaciones y la legislación brindarán.”
"Sin embargo, tengo una gran preocupación en torno a la propiedad de ChatGPT y otras tecnologías de inteligencia artificial similares. Estamos viendo una maniobra de pinza por parte de los Proveedores de servicios en la nube para controlar cada vez más nuestros servicios, datos, seguridad, automatización, colaboración y ahora IA. No estoy convencido de que esta cantidad de poder en un número tan pequeño de megacorporaciones sea algo bueno, especialmente si le pedimos a ChatGPT que nos asesore sobre nuestra estrategia y decisiones de proveedores.”
"En primer lugar, los CISO deben ser muy conscientes de todos los problemas y riesgos relacionados con su negocio y con todos los ecosistemas corporativos y personales. Con esta conciencia, necesitan proporcionar orientación y liderazgo continuos para abordar estas nuevas oportunidades y sus riesgos. Muchos CISO incluyen problemas basados en IA en sus reuniones semanales de personal y brindan orientación inicial, así como actualizaciones para el personal ejecutivo. Por ejemplo: ChatGPT y otras herramientas basadas en inteligencia artificial están bajando el listón para los piratas informáticos, que crean correos electrónicos de phishing muy específicos basados en información de piratería previa combinada con información de redes sociales. Los ataques están engañando a muchos usuarios finales. Los miembros del personal de Seguridad, TI, Redes y Desarrollo, así como de Marketing y Ventas, utilizan ChatGPT y eso debe compartirse y discutirse durante las reuniones dirigidas por CISO""
"La necesidad de los CISO de compartir tanto lo bueno como los riesgos de usar ChatGPT y herramientas basadas en IA. Como se señaló anteriormente, existen muchas ventajas y beneficios al aprovechar las herramientas basadas en IA. Esa información debe ser rastreada, documentada y compartida.
Los riesgos también deben ser rastreados y compartidos para que todos estén al tanto de los desafíos y cualquier resultado negativo....
Los CISO deben liderar la discusión y compartir políticas nuevas y continuamente actualizadas y la validación de la efectividad de la política de forma continua. Este no es un problema que pueda ignorarse.”
Para obtener más información sobre inteligencia artificial y ciberseguridad, por favor, vea CyberTalk.org cobertura pasada. Por último, echa un vistazo a la CyberTalk.org boletín de noticias! Regístrese hoy para recibir artículos de noticias de primer nivel, mejores prácticas y análisis de expertos.
Post Perspectivas de los CISO sobre ChatGPT: ¿Cambio de juego o amenaza de seguridad? apareció primero en Charla cibernética.