Si eres un usuario de redes sociales, seguramente ya te has topado con cientos de tutoriales sobre cómo sacarles provecho; y has incluso creado una cuenta para consultarle de todo. Sin embargo, esta nueva tecnología no es para tomársela tan a la ligera; y es precisamente porque es tan nueva que conlleva riesgos.
En este artículo, exploramos las seis debilidades de las herramientas generativas, cómo pueden afectar los objetivos de tu marca, y qué puedes hacer para evitarlo mientras sigues disfrutando de sus beneficios.
1. Desinformación
ChatGPT tiene el potencial de generar desinformación, dependiendo de la fuente de datos utilizada o del tema en cuestión. Por ejemplo, si se entrena a la IA con fuentes de datos de 2021, puede no considerar información actualizada (un ejemplo serían productos que se han retirado del mercado por considerarse peligrosos para el consumidor). Para las marcas en las que la seguridad del consumidor depende de la información actual, esto puede ser un obstáculo importante
2. Alucinaciones
En IA, una «alucinación» se refiere a información que la IA percibe como verdadera, pero que en realidad es fabricada o sin sentido debido a la falta de comprensión del mundo real por parte del bot.
Por ejemplo, en la publicidad dirigida, un algoritmo de IA puede asumir incorrectamente los intereses de un usuario en función de su comportamiento en línea o historial de búsqueda. Puede asociar búsquedas en línea de equipo de camping con un interés en la caza, aunque la persona nunca haya buscado contenido relacionado con la caza. Como resultado, el algoritmo puede mostrar anuncios de equipo de caza que no son relevantes e incluso pueden resultar ofensivos.
3. Cuestiones éticas y responsabilidad legal
La IA generativa tiene el potencial de revolucionar la forma en que se crea contenido (texto, imágenes, vídeos, código informático, contratos legales y planos arquitectónicos), pero también conlleva varios riesgos, como el plagio y la infracción de derechos de autor, especialmente en lo que respecta a los derechos de propiedad intelectual (PI).
Si bien el plagio es una preocupación frecuente con respecto a las herramientas de IA generativa, otra área de ética cuestionable es engañar a clientes vulnerables.
La información puede verse influenciada por sesgos presentes en los datos que utiliza para su entrenamiento, lo que resulta en que un cliente compre productos que no se alinean con sus creencias o filosofías. Piensa en respuestas engañosas a preguntas sobre la sostenibilidad, los derechos de los animales, etc. Si estas respuestas podrían ser intencionalmente engañosas y atribuidas a la IA, sigue siendo un área gris.
4. Costos elevados de entrenamiento
Entrenar modelos de IA requiere tiempo y dinero. El costo de una sola sesión de entrenamiento para GPT-3 se estima en alrededor de 1.4 millones de dólares, y para algunos modelos de IA más grandes, el costo de entrenamiento oscila entre 2 y 12 millones de dólares.
Incluso en escenarios básicos, el entrenamiento continuo de los modelos de IA requiere infraestructura que admita la ingestión y el suministro del contexto adecuado a los modelos de lenguaje para que puedan generar respuestas de alta calidad y sean rentables a gran escala.
Esto puede ser un desafío, especialmente para marcas más pequeñas. Piensa en la frecuencia con la que se actualizan tus productos, los lanzamientos de nuevos iPhones o la nueva línea de Nike. Mantenerse al día no es tan fácil como parece.
5. Falta de personalización
Las máquinas de aprendizaje lógico no están diseñadas para conocer mejor a los clientes con el tiempo.
En un escenario en una tienda física, un dependiente puede «leer» la intención del cliente en función de las elecciones que realiza y los productos hacia los que se inclina. Algunas de estas señales pueden ser no verbales, como la expresión facial o la orientación corporal del comprador durante el proceso de selección.
Las herramientas de IA generativa pueden tener dificultades para resolver situaciones complejas de resolución de problemas, como un cliente angustiado, pero más allá de eso, tampoco pueden tener en cuenta el historial de interacciones del cliente para hacer recomendaciones contextualmente relevantes. Los LLM tienen un vasto conocimiento lingüístico, pero carecen de datos de comportamiento, lo que puede resultar en costos de oportunidad o ser desalentador.
A menos que un comprador comparta específicamente sus preferencias, es probable que haya una falta de interacciones personalizadas, lo que puede afectar negativamente la experiencia de la marca.
6. Vulnerabilidades de privacidad y seguridad
Los clientes pueden compartir información sensible, como datos personales o financieros, en una interacción de comercio electrónico. ¿Dónde se almacena la información compartida? ¿Dónde puede aparecer a continuación?
Aquí pueden ocurrir muchos problemas si no se toman las medidas adecuadas de protección de datos.
Una empresa debería tener la infraestructura de seguridad adecuada (por ejemplo, una plataforma en la nube con una fuente de datos común, ingestión y un marco seguro).
Un equilibrio cauteloso de pros y contras
Entonces, ¿cómo deben las marcas sopesar estas desventajas en el contexto de tomar decisiones para aprovechar lo que la IA generativa puede ofrecer a sus clientes?
Considera las sensibilidades en el espacio de tu marca. Si tu marca tiene que lidiar con estándares estrictos, regulaciones y otros elementos donde los cambios repentinos pueden afectar la seguridad del cliente (por ejemplo, medicamentos, equipos de seguridad, etc.), es importante considerar seriamente la falta de actualidad de los datos al decidir sobre las herramientas de IA generativa.
Una empresa de joyería antigua puede considerar que la actualidad de la información es menos crítica que un fabricante de piezas de aviones o automóviles, aunque ambos podrían teóricamente utilizar las habilidades lingüísticas de los máquina de aprendizaje lógico para el servicio al cliente sin depender de su memoria interna.
En Jer Publicidad es nuestro compromiso cuidar hasta el más pequeño detalle de nuestras cuentas para satisfacer a nuestros clientes con un servicio adaptado a las necesidades específica de cada negocio. Nuestro uso de las herramientas de creación por IA es límitado, pues creemos ampliamente en el valor de las ideas generadas por las personas.
Llámanos ahora al 925 28 47 89, escríbenos a jer@jerpublicidad.com y hablaremos sin ningún tipo de compromiso. ¿Te animas a conocernos?
