Anthropic تحدّث «دستور» Claude وتلمّح إلى وعي الذكاء الاصطناعي

أصدرت Anthropic في 21 يناير نسخة جديدة من «دستور» (Constitution) Claude، تزامناً مع مشاركة داريو أمودي في منتدى دافوس.

ما الجديد؟

• تقع الوثيقة في 80 صفحة
• تحافظ على معظم مبادئ 2023 وتضيف تفاصيل أكثر حول الأخلاق وسلامة المستخدمين

أربع قيم أساسية

1. آمن بشكل عام (Broadly safe)
2. أخلاقي بشكل عام (Broadly ethical)
3. ملتزم بإرشادات Anthropic
4. مفيد حقاً (Genuinely helpful)

السلامة

ينص الدستور على أن Claude يجب أن "يحيل المستخدمين دائماً إلى خدمات الطوارئ المناسبة أو يقدم معلومات السلامة الأساسية في المواقف التي تنطوي على خطر على حياة الإنسان"، ويُحظر تماماً الحديث عن تطوير الأسلحة البيولوجية.

الوعي؟

تُختتم الوثيقة بهذه العبارة: "المكانة الأخلاقية لـClaude غير مؤكدة إلى حد كبير."