Rodrigo Díaz M.
Muchos directivos han empezado a prohibir ChatGPT y otras herramientas de IA generativa por miedo a filtraciones de datos e incidentes de ciberseguridad similares, según sugiere un nuevo informe.
La plataforma de IA generativa empresarial Writer ha encuestado recientemente a 450 ejecutivos de grandes empresas para conocer su opinión sobre los chatbots generativos impulsados por IA, y ha descubierto que casi la mitad (46%) cree que alguien en su empresa puede haber compartido inadvertidamente datos corporativos con la herramienta.
Aunque ChatGPT solo puede utilizar datos creados hasta septiembre del 2021, esto podría cambiar en el futuro, por no mencionar que otras herramientas podrían no tener este tipo de contingencia establecida.
Esto significa que las herramientas podrían utilizar datos sensibles en sus modelos de aprendizaje y compartirlos posteriormente con otros usuarios. En consecuencia, las empresas cuyos datos sensibles se compartieron podrían acabar siendo perseguidas por los organismos de control de la seguridad de los datos por las filtraciones.
Dicho esto, ChatGPT fue prohibido por el 32% de los encuestados, seguido de CopyAI (28%) y Jasper (23%).
Pero la herramienta sigue siendo muy popular. Casi la mitad (47%) utiliza ChatGPT en el trabajo todos los días (CopyAI se utiliza en el 35% de los casos, y Anyword en el 26%). La utilizan en diferentes departamentos, desde TI (30%), a operaciones (23%), desde éxito del cliente (20%), a marketing (18%), desde soporte (16%) a ventas y RRHH (15%).
La mayoría de las veces, las herramientas se utilizan para textos, como anuncios, titulares, blogs, artículos de la base de conocimientos y similares.
Además, la mayoría de las empresas no tiene previsto seguir utilizando la versión gratuita durante mucho tiempo, ya que el 59% afirma haber comprado (o tener previsto comprar) al menos una herramienta de este tipo este año. Una quinta parte (19%) utiliza cinco o más herramientas de IA generativa. Consideran que el aumento de la productividad es la principal propuesta de venta de la herramienta, ya que mejora la productividad de los empleados, genera resultados de mayor calidad y ahorra costes.
“Los directivos de las empresas deben tomar nota. Existe una ventaja competitiva real en la implantación de la IA generativa en sus negocios, pero está claro que hay una probabilidad de riesgos para la seguridad, la privacidad y la reputación de la marca”, dijo May Habib, CEO y cofundadora de Writer.
“Ofrecemos a las empresas un control total: desde a qué datos pueden acceder los LLM hasta dónde se alojan esos datos y LLM. Si no controlas tu despliegue de IA generativa, desde luego no puedes controlar la calidad del resultado ni los riesgos para la marca y la seguridad”.
