Los nuevos riesgos de las herramientas generativas IA

Las herramientas generativas IA (inteligencia artificial) como Chat GPT han llegado a revolucionar la forma en la que muchos hacemos nuestro trabajo.

Comparte el post

Si eres un usuario de redes sociales, seguramente ya te has topado con cientos de tutoriales sobre cómo sacarles provecho; y has incluso creado una cuenta para consultarle de todo. Sin embargo, esta nueva tecnología no es para tomársela tan a la ligera; y es precisamente porque es tan nueva que conlleva riesgos.

En este artículo, exploramos las seis debilidades de las herramientas generativas, cómo pueden afectar los objetivos de tu marca, y qué puedes hacer para evitarlo mientras sigues disfrutando de sus beneficios.

1. Desinformación

ChatGPT tiene el potencial de generar desinformación, dependiendo de la fuente de datos utilizada o del tema en cuestión. Por ejemplo, si se entrena a la IA con fuentes de datos de 2021, puede no considerar información actualizada (un ejemplo serían productos que se han retirado del mercado por considerarse peligrosos para el consumidor). Para las marcas en las que la seguridad del consumidor depende de la información actual, esto puede ser un obstáculo importante

2. Alucinaciones

En IA, una «alucinación» se refiere a información que la IA percibe como verdadera, pero que en realidad es fabricada o sin sentido debido a la falta de comprensión del mundo real por parte del bot.

Por ejemplo, en la publicidad dirigida, un algoritmo de IA puede asumir incorrectamente los intereses de un usuario en función de su comportamiento en línea o historial de búsqueda. Puede asociar búsquedas en línea de equipo de camping con un interés en la caza, aunque la persona nunca haya buscado contenido relacionado con la caza. Como resultado, el algoritmo puede mostrar anuncios de equipo de caza que no son relevantes e incluso pueden resultar ofensivos.

3. Cuestiones éticas y responsabilidad legal

La IA generativa tiene el potencial de revolucionar la forma en que se crea contenido (texto, imágenes, vídeos, código informático, contratos legales y planos arquitectónicos), pero también conlleva varios riesgos, como el plagio y la infracción de derechos de autor, especialmente en lo que respecta a los derechos de propiedad intelectual (PI).

Si bien el plagio es una preocupación frecuente con respecto a las herramientas de IA generativa, otra área de ética cuestionable es engañar a clientes vulnerables.

La información puede verse influenciada por sesgos presentes en los datos que utiliza para su entrenamiento, lo que resulta en que un cliente compre productos que no se alinean con sus creencias o filosofías. Piensa en respuestas engañosas a preguntas sobre la sostenibilidad, los derechos de los animales, etc. Si estas respuestas podrían ser intencionalmente engañosas y atribuidas a la IA, sigue siendo un área gris.

4. Costos elevados de entrenamiento

Entrenar modelos de IA requiere tiempo y dinero. El costo de una sola sesión de entrenamiento para GPT-3 se estima en alrededor de 1.4 millones de dólares, y para algunos modelos de IA más grandes, el costo de entrenamiento oscila entre 2 y 12 millones de dólares.

Incluso en escenarios básicos, el entrenamiento continuo de los modelos de IA requiere infraestructura que admita la ingestión y el suministro del contexto adecuado a los modelos de lenguaje para que puedan generar respuestas de alta calidad y sean rentables a gran escala.

Esto puede ser un desafío, especialmente para marcas más pequeñas. Piensa en la frecuencia con la que se actualizan tus productos, los lanzamientos de nuevos iPhones o la nueva línea de Nike. Mantenerse al día no es tan fácil como parece.

5. Falta de personalización

Las máquinas de aprendizaje lógico no están diseñadas para conocer mejor a los clientes con el tiempo.

En un escenario en una tienda física, un dependiente puede «leer» la intención del cliente en función de las elecciones que realiza y los productos hacia los que se inclina. Algunas de estas señales pueden ser no verbales, como la expresión facial o la orientación corporal del comprador durante el proceso de selección.

Las herramientas de IA generativa pueden tener dificultades para resolver situaciones complejas de resolución de problemas, como un cliente angustiado, pero más allá de eso, tampoco pueden tener en cuenta el historial de interacciones del cliente para hacer recomendaciones contextualmente relevantes. Los LLM tienen un vasto conocimiento lingüístico, pero carecen de datos de comportamiento, lo que puede resultar en costos de oportunidad o ser desalentador.

A menos que un comprador comparta específicamente sus preferencias, es probable que haya una falta de interacciones personalizadas, lo que puede afectar negativamente la experiencia de la marca.

chat gpt es un ejemplo de las herramientas generativas AI

6. Vulnerabilidades de privacidad y seguridad

Los clientes pueden compartir información sensible, como datos personales o financieros, en una interacción de comercio electrónico. ¿Dónde se almacena la información compartida? ¿Dónde puede aparecer a continuación?

Aquí pueden ocurrir muchos problemas si no se toman las medidas adecuadas de protección de datos.

Una empresa debería tener la infraestructura de seguridad adecuada (por ejemplo, una plataforma en la nube con una fuente de datos común, ingestión y un marco seguro).

Un equilibrio cauteloso de pros y contras

Entonces, ¿cómo deben las marcas sopesar estas desventajas en el contexto de tomar decisiones para aprovechar lo que la IA generativa puede ofrecer a sus clientes?

Considera las sensibilidades en el espacio de tu marca. Si tu marca tiene que lidiar con estándares estrictos, regulaciones y otros elementos donde los cambios repentinos pueden afectar la seguridad del cliente (por ejemplo, medicamentos, equipos de seguridad, etc.), es importante considerar seriamente la falta de actualidad de los datos al decidir sobre las herramientas de IA generativa. 

Una empresa de joyería antigua puede considerar que la actualidad de la información es menos crítica que un fabricante de piezas de aviones o automóviles, aunque ambos podrían teóricamente utilizar las habilidades lingüísticas de los máquina de aprendizaje lógico para el servicio al cliente sin depender de su memoria interna.

En Jer Publicidad es nuestro compromiso cuidar hasta el más pequeño detalle de nuestras cuentas para satisfacer a nuestros clientes con un servicio adaptado a las necesidades específica de cada negocio. Nuestro uso de las herramientas de creación por IA es límitado, pues creemos ampliamente en el valor de las ideas generadas por las personas.

Llámanos ahora al 925 28 47 89, escríbenos a jer@jerpublicidad.com y hablaremos sin ningún tipo de compromiso. ¿Te animas a conocernos?

Suscríbete a nuestra Newsletter

Recibe notificaciones y aprende de los mejores

Quizás te interese

Marketing

6 Tendencias de Los Consumidores Españoles en 2024

El observatorio de tendencias de la empresa The Cocktail publicó este mes el Trends Review 2024, donde se marcan las tendencias de los consumidores españoles que dominarán este año.

Como conseguir mejores reseñas en Google My Business
comunicación

La relación entre el cliente y el diseño

Si está trabajando con diseñadores web o gráficos, habrá notado que a veces hay discrepancias en lo que se considera correcto o no en el tema del diseño, tras ver el vídeo podemos reflexionar sobre la relación laboral entre el cliente y la agencia.

¿Quieres hacer crecer tu empresa?

Solicita tu asesoría gratuíta

Suscribirse