رحلة عميقة في عالم حقن التعليمات

حقن التعليمات (الإنجليزية: Prompt injection) هي ثغرة أمنية في تطبيقات النماذج اللغوية الكبيرة، تسمح للمهاجم بالتلاعب بسلوك النموذج عبر مدخلات تبدو عادية لكنها تحمل تعليمات خبيثة. وتوضح OWASP وNIST أن هذه الثغرة تنشأ من معالجة التعليمات والبيانات في السياق نفسه، ما قد يؤدي إلى تجاوز الضوابط أو تنفيذ سلوك غير مقصود.

في كثير من الحالات، لا تكون المشكلة في النموذج وحده، بل في التطبيق الذي يُبنى فوقه ويخلط بين التعليمات والبيانات غير الموثوقة. وقد لفتت ملاحظات مبكرة إلى أن هذا النوع من الهجمات يستهدف التطبيقات المعتمدة على النماذج اللغوية، لا النموذج المجرد فقط.