Los grandes modelos lingüísticos (LLM) pueden procesar automáticamente documentos de texto y asistir a los usuarios mediante chatbots y agentes autónomos. Mediante plugins, ahora es posible que los chatbots evalúen automáticamente páginas web o documentos y accedan a entornos de programación o buzones de correo. Los LLM son vulnerables a las llamadas inyecciones indirectas de instrucciones: los atacantes pueden manipular los datos de estas fuentes y colocar allí instrucciones no deseadas para los LLM. El fabricante OpenAI también señala esta vulnerabilidad en relación con el uso de plugins en el producto ChatGPT
Ver la publicación completa 