AEVA
أدلة الذكاء الاصطناعي والتحقق والضمان.
دورة حياة منظمة لاكتشاف أنظمة الذكاء الاصطناعي، واختبار سلوكها وتعرّضها للمخاطر، والتحقق من الضوابط، وإنتاج أدلة يمكن الدفاع عنها لدعم قرارات المخاطر.
استكشفالتحقيق الجنائي الرقمي للذكاء الاصطناعي
إعادة بناء الأدلة والتحقيق في أنظمة الذكاء الاصطناعي.
إعادة بناء المطالبات (prompts)، والسياق المسترجَع، والجداول الزمنية للوكلاء واستدعاءات الأدوات، ونسب النماذج، لدعم التحقيق بعد وقوع الحادثة.
استكشفصيد تهديدات الذكاء الاصطناعي
صيد التهديدات الخفية عبر النماذج والوكلاء وسير عمل الذكاء الاصطناعي.
الكشف الاستباقي عن انحراف السلوك، وتسميم السياق، والتلاعب بالوكلاء، ومخاطر سلسلة توريد الذكاء الاصطناعي — قبل أن تتحول إلى حوادث.
استكشفModel MRI
كشف انحراف السلوك بأسلوب الصندوق الأسود لنماذج الذكاء الاصطناعي.
مجموعة منظمة من المسابير (probes) توصّف سلوك النموذج؛ ويُستخدم تباعد جنسن-شانون (Jensen-Shannon divergence) مقارنةً بخط أساس لقياس الانحراف بمرور الوقت — دون الحاجة للوصول إلى الأوزان أو البنية الداخلية.
استكشفAEVA
أدلة الذكاء الاصطناعي والتحقق والضمان.
يجيب AEVA على الأسئلة التي تواجهها كل مؤسسة تنشر الذكاء الاصطناعي عاجلاً أم آجلاً:
- ما هي أنظمة الذكاء الاصطناعي التي نستخدمها فعليًا؟
- هل يمكن التلاعب بها أو أن تتصرف خارج الغرض المقصود منها؟
- هل تعمل الضوابط الأمنية المحيطة بها بالفعل؟
- هل يمكننا إنتاج أدلة يمكن الدفاع عنها لدعم قرارات النشر والمخاطر؟
دورة الضمان
اكتشاف
فهم نظام الذكاء الاصطناعي وسياقه.
تقييم
اختبار السلوك ومسارات التعرض والهجوم.
هجوم
تنفيذ هجمات عدائية ضد النماذج والوكلاء والدفاعات.
تحقق
التحقق من الضوابط الأمنية والاستجابة.
مراقبة
مراقبة السلوك والانحراف بمرور الوقت.
جمع الأدلة
حفظ أدلة تقنية قابلة للتتبع.
الرصد
رصد النتائج والمخاطر المتبقية.
المعالجة
سد الثغرات وتعزيز الضوابط.
إعادة الاختبار
إعادة التقييم عند تغيّر الأنظمة أو المخاطر.
الجدول الزمني الجنائي
- المطالبة تم التقاط المدخل
- الاسترجاع تم جلب السياق
- النموذج تم التقاط التفكير
- الوكيل تم تنفيذ الخطة
- الأداة تم تسجيل الاستدعاء
- الإجراء تم تسجيل النتيجة
- الضابط تم التحقق من الاستجابة
- الأدلة تم الحفظ
التحقيق الجنائي الرقمي للذكاء الاصطناعي
إعادة بناء الأدلة والتحقيق في أنظمة الذكاء الاصطناعي.
كل تفاعل يترك أثرًا. تعيد Cytomate بناء هذا الأثر من البداية إلى النهاية — من المطالبة الأصلية مرورًا بالاسترجاع، وتفكير النموذج، ونشاط الوكيل والأداة، وصولًا إلى الضوابط التي استجابت والأدلة المحفوظة.
- إعادة بناء المطالبات والتفاعلات
- أدلة RAG والسياق المسترجَع
- الجداول الزمنية للوكلاء واستدعاءات الأدوات
- نسب النماذج والتطبيقات
- إعادة بناء الذاكرة والحالة
- حفظ الأدلة الجنائية الرقمية
- التحقيق بعد وقوع الحادثة
صيد تهديدات الذكاء الاصطناعي
صيد التهديدات الخفية عبر النماذج والوكلاء وسير عمل الذكاء الاصطناعي.
مجالات تركيز الصيد
انحراف السلوك
تغيرات غير متوقعة في القرارات أو الرفض أو الإجراءات.
سياق مسموم
محتوى RAG أو الذاكرة أو الأدوات مصمم لإعادة توجيه السلوك.
التلاعب بالوكلاء
استخدام غير آمن للأدوات، أو إساءة استخدام الصلاحيات، أو إجراءات متسلسلة.
مخاطر سلسلة التوريد
مكونات أو محولات أو تبعيات نموذج مشبوهة.
Model MRI
كشف انحراف السلوك بأسلوب الصندوق الأسود لنماذج الذكاء الاصطناعي — دون الحاجة للوصول إلى الأوزان أو التنشيطات أو البنية الداخلية.
مجموعة المسابير
مجموعة منظمة من المطالبات تُشغَّل باستمرار مقابل النموذج لتوصيف سلوكه في الظروف العادية والعدائية والمتعلقة بالسياسات.
التقاط خط الأساس
تُلتقط توزيعات الاستجابة من تشغيل أساسي معروف الجودة، مما يحدد شكل السلوك الطبيعي لهذا النموذج.
تقييم الانحراف
يقيس تباعد جنسن-شانون بين توزيعات الاستجابة الأساسية والحالية مدى انحراف سلوك النموذج.
صندوق أسود بالتصميم
يعمل بالكامل مقابل مخرجات النموذج — لا حاجة للوصول إلى الأوزان أو التنشيطات أو البنية الداخلية لاكتشاف الانحراف.
متوافق مع مستوى الوصول المتاح لديك
الصندوق الأسود
لا حاجة لوصول داخلي.
- نماذج يمكن الوصول إليها عبر API
- الاختبار السلوكي
- Model MRI
- مطابقة السياسات
- التقييم العدائي
- مراقبة الانحدار
الصندوق الرمادي
طبقة التطبيق والتنسيق.
- أنظمة RAG
- الوكلاء
- المطالبات
- الذاكرة واستدعاءات الأدوات
- آثار التطبيق
الصندوق الأبيض
وصول كامل للبنية الداخلية للنموذج.
- مكونات النموذج
- الأوزان
- التنشيطات
- التمثيلات الداخلية
يعتمد التحليل الداخلي للنموذج على مستوى الوصول المتاح إليه. لا تدّعي Cytomate إمكانية إثبات جميع الخصائص الداخلية للنموذج عبر اختبار الصندوق الأسود.