La inteligencia artificial, un campo que avanza a un ritmo vertiginoso, ha demostrado una y otra vez que no está preparada para lidiar con la creatividad y el caos inherentes a la naturaleza humana. A pesar de los avances en el entrenamiento de modelos de IA, estos siguen siendo incapaces de prever y evitar el uso indebido de la tecnología por parte de los usuarios. Un ejemplo reciente de esto es la generación de imágenes de Sonic the Hedgehog en una situación embarazosa.
Las empresas, en su afán por lanzar las mejores herramientas de IA, parecen olvidar que la tecnología siempre será utilizada de formas imprevistas y a menudo caóticas por los usuarios. La inteligencia artificial, por muy avanzada que sea, no puede mantener el ritmo de la afinidad humana por los memes y las imágenes provocativas.
Esta semana, tanto Meta como los generadores de imágenes de IA de Microsoft se volvieron virales por responder a indicaciones inusuales, como “Karl Marx con grandes pechos” y personajes ficticios recreando el 11 de septiembre. Estos incidentes son solo los últimos ejemplos de empresas que se apresuran a unirse a la moda de la IA sin considerar cómo se utilizarán sus herramientas de manera incorrecta.
Meta, la empresa matriz de Facebook, está lanzando pegatinas de chat generadas por IA para Facebook Stories, Instagram Stories, DMs, Messenger y WhatsApp. Estas pegatinas están impulsadas por Llama 2, la nueva colección de modelos de IA de Meta, y Emu, el modelo fundamental de Meta para la generación de imágenes. Aunque estas pegatinas fueron anunciadas en Meta Connect el mes pasado y estarán disponibles para todos los usuarios en los próximos meses, la falta de control sobre cómo se utilizan estas herramientas de IA ha generado preocupaciones.
La inteligencia artificial tiene un gran potencial para mejorar nuestras vidas y nuestra sociedad, pero también plantea desafíos significativos. Las empresas que desarrollan estas tecnologías deben ser conscientes de estos desafíos y tomar medidas para mitigar los riesgos asociados con el uso indebido de la IA. Esto puede incluir la implementación de controles más estrictos sobre cómo se utilizan las herramientas de IA, la educación de los usuarios sobre el uso responsable de la IA y la creación de sistemas para detectar y responder a usos indebidos de la tecnología.
Además, las empresas deben ser transparentes sobre cómo funcionan sus herramientas de IA y cómo se utilizan los datos de los usuarios. Esto puede ayudar a generar confianza en la tecnología y a asegurar a los usuarios que sus datos están siendo utilizados de manera responsable.
