نظرة عامة على الأداة
Garak مدرجة ضمن حوكمة الذكاء الاصطناعي وسلامته وتقييمه ضمن أدوات الذكاء الاصطناعي.
ما هو Garak؟
garak برنامج مفتوح المصدر تدعمه NVIDIA لاختبار نماذج اللغة وأنظمة الحوار ضد حقن المطالبات وتسرب البيانات والهلوسة والمعلومات المضللة والسمية وكسر القيود ومخاطر أخرى. يعمل كأداة Python محلية عبر سطر الأوامر ويدعم مزودين متعددين. يُثبت إصدار محدد في بيئة معزولة وتُجمع موافقة لكل هدف وتُختار الاختبارات والمولدات المناسبة وتُضبط التكلفة والحدود وتُحمى بيانات الاختبار وتُراجع النتائج يدويًا وتُبلغ الثغرات عبر المسارات الأمنية المعتمدة.
الأنسب لـ
فرق الأمن والذكاء التي تختبر إخفاقات نماذج اللغة في بيئات محكومة
لمن تناسب؟
مهندسو أمن الذكاء فرق الاختبار الهجومي فرق تقييم النماذج مهندسو منصات التعلم
ملاحظة القرار
قُبل الصف للمعاينة بعد بحث مستقل من المصادر الرسمية وفق V411. لا يُطبق إلا بعد صفر إخفاقات وصفر تحذيرات وصفر حقول غير معروفة ومراجعة القيم المتحكم بها والعربية v2 والتواصل والعمولة والشعار وطلبات المسح الصريحة.
أبرز المميزات
اختبارات ثابتة وديناميكية وتكيفية
مسح وتقارير عبر سطر الأوامر
دعم نماذج مستضافة ومحلية
كواشف واختبارات قابلة للتوسعة
حالات الاستخدام
اختبار مقاومة حقن المطالبات
مسح التسرب وكسر القيود
مقارنة سلوك سلامة النماذج
دمج اختبارات LLM في الأمن
نقاط القوة
- مجاني بترخيص Apache-2.0
- يدعم مزودي نماذج كثيرين
- تساهم NVIDIA في صيانته
القيود
لا يثبت garak أمان النموذج أو التطبيق. تعتمد التغطية على الاختبارات والإعدادات والصلاحيات والكواشف. يجب الحصول على تصريح ومنع التعرض للمخرجات الضارة وضبط التكاليف ودمج المسح مع نمذجة تهديد ومراجعة أوسع.
تفاصيل التسعير
خيارات الدفع
برنامج مجاني مفتوح المصدر
ملاحظة التسعير
garak برنامج مجاني مفتوح المصدر بترخيص Apache-2.0، ولا توجد خطة مستضافة مدفوعة أو تجربة. يتحمل المستخدم تكاليف API والحوسبة والتخزين والمراجعة والبنية المستخدمة في المسح.
التكاملات
OpenAI
Hugging Face
Replicate
AWS Bedrock
LiteLLM
مولدات REST
يرجى تسجيل الدخول للمشاركة في النقاش.