مبادئ أخلاقيات الذكاء الاصطناعي من سدايا بلغة بسيطة

مبادئ أخلاقيات الذكاء الاصطناعي التي أصدرتها سدايا سبعة مبادئ تسري على كل من يطوّر الذكاء الاصطناعي أو يشتريه أو يستخدمه في المملكة: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، والمساءلة والمسؤولية. وتشتد متطلباتها بحسب خطورة النظام، ولا تنص على غرامات، ويمكن للشركة التي تقدّم منتجات ذكاء اصطناعي أن تسجّل اختياريًا لتنال وسمًا تحفيزيًا.

يشرح هذا الدليل كل مبدأ بلغة العمل اليومي، ويبيّن ما يطلبه من شركة تستخدم الذكاء الاصطناعي، لا من جهة تبحث فيه. ونعتمد فيه على النص الحالي: وثيقة «مبادئ أخلاقيات الذكاء الاصطناعي» الصادرة عن سدايا بتاريخ مايو 2025 (رقم الوثيقة SDAIA-P114E)، وهي في 50 صفحة وتُلحق بها قائمة تحقق [1]. وإن كان سؤالك عن جاهزية شركتك لتبني الذكاء الاصطناعي أصلًا، فدليلنا عن إطار تبني الذكاء الاصطناعي من سدايا يتناول الجاهزية وتقييم المخاطر، أما هذا المقال فيبقى مع مبادئ الأخلاقيات.

ما مبادئ أخلاقيات الذكاء الاصطناعي، وعلى من تسري؟

تسري الوثيقة على كل من يصمّم أنظمة الذكاء الاصطناعي في المملكة أو يطوّرها أو ينشرها أو ينفّذها أو يستخدمها، وعلى كل من يتأثر بها. ويشمل ذلك صراحةً الجهات الحكومية والشركات الخاصة والقطاع غير الربحي والباحثين والعاملين والمستهلكين [1]. فشركة تجارية تستخدم مساعدًا ذكيًا للرد على رسائل العملاء داخلةٌ في النطاق، كما يدخل فيه بنك يبني نموذجه الخاص لتقييم الائتمان.

وتذكر سدايا خمسة أهداف للوثيقة، أهمها للشركات هدفان: حوكمة البيانات ونماذج الذكاء الاصطناعي للحد من آثارها السلبية، وحماية خصوصية أصحاب البيانات وحقوقهم [1].

وتتبع المبادئ نظام الذكاء الاصطناعي عبر أربع مراحل تسميها الوثيقة «دورة حياة نظام الذكاء الاصطناعي» [1]:

1. التخطيط والتصميم: تحديد المشكلة والمنهج ومؤشرات الأداء.
2. إعداد بيانات الإدخال: جمع البيانات وتقييمها وتنقيتها وتحويلها.
3. البناء والتحقق: تدريب النموذج وضبطه واختباره وتقييم مخاطره.
4. النشر والمراقبة: تشغيله، وإدارة إصداراته، ومراجعة أدائه دوريًا.

ولكل مبدأ ضوابط في كل مرحلة من هذه المراحل الأربع، وهذا ما يحوّل قائمة القيم إلى شيء يستطيع الفريق أن يتحقق منه.

هل المبادئ ملزمة للشركات الخاصة؟

للإجابة شقّان. فالوثيقة تنص على سريانها على جميع المعنيين بالذكاء الاصطناعي في المملكة، وتمنح سدايا دور قياس الالتزام ومتابعته، مباشرةً أو عبر الجهات التنظيمية القطاعية [1]. لكنها لا تتضمن عقوبات، ويقوم باب الالتزام فيها على تسجيل اختياري وتقارير اختيارية وأوسمة تحفيزية [1]. وما زالت صفحة الأنظمة في موقع سدايا تضع رابط الملف تحت عنوان «النسخة الأولية من مبادئ أخلاقيات الذكاء الاصطناعي»، بينما تصنّف الوثيقة نفسها ضمن الوثائق التنظيمية، الإصدار الأول [2][1].

عمليًا، تعامل مع المبادئ بوصفها المرجع الوطني للاستخدام المسؤول للذكاء الاصطناعي. أما الالتزامات التي تترتب عليها عقوبات فمصدرها أنظمة مثل نظام حماية البيانات الشخصية ولائحته التنفيذية، وتدرجها سدايا في الصفحة نفسها [2]. وما في هذا القسم معلومات عامة؛ ففي الحالة الخاصة راجع نص سدايا أو مستشارًا مرخّصًا.

مبادئ الذكاء الاصطناعي السبعة بلغة بسيطة

يلخّص الجدول كل مبدأ كما تعرّفه سدايا، وما يعنيه في العمل اليومي للشركة. العمود الأوسط قراءتنا المبسّطة، والعمود الأخير مبني على الضوابط الواردة في الوثيقة [1].

وفي الشركة التي تشتري الذكاء الاصطناعي ولا تبنيه، يحمل مبدآن في العادة معظم العبء: الشفافية والمساءلة. أما بقية المبادئ فتبقى سارية، لكن التحقق منها يمر غالبًا عبر المورّد.

وتسري المبادئ السبعة نفسها على الذكاء الاصطناعي التوليدي. فوثيقة سدايا «مبادئ الذكاء الاصطناعي التوليدي للعموم» (مايو 2025) تنزّلها على المساعدات الذكية وأدوات إنتاج المحتوى: أخبر الناس حين يتعاملون مع ذكاء اصطناعي، ونبّه إلى المحتوى المولَّد آليًا، وأتح قناة غير آلية لمن يفضّل التعامل مع إنسان، واستخدم العلامات المائية حيث تفيد، وتحقق من دقة المحتوى قبل نشره [3].

مستويات مخاطر الذكاء الاصطناعي الأربعة: متى تشتد المتطلبات؟

تصنّف سدايا أنظمة الذكاء الاصطناعي في أربعة مستويات، ولكل مستوى واجب مختلف [1]:

• مخاطر بسيطة أو منعدمة، مثل مرشّحات الرسائل المزعجة: لا قيود عليها، مع التوصية بالتزامها بالمبادئ.
• مخاطر محدودة، مثل البرامج التقنية المتعلقة بالوظيفة والتطوير والأداء: تُطبَّق عليها المبادئ.
• مخاطر عالية على الحقوق الأساسية للإنسان: تقييم مطابقة قبل النشر وبعده، إضافةً إلى المتطلبات النظامية ذات العلاقة.
• مخاطر غير مقبولة على سلامة الناس وسبل عيشهم وحقوقهم، مثل التصنيف الاجتماعي للأفراد أو استغلال الأطفال أو التأثير المشوِّه في السلوك: غير مسموح بها.

ولا تضرب سدايا مثالًا على المستوى العالي. ويطبّق الجدول التالي التعريفات على استخدامات شائعة في الشركات. مثال توضيحي: هذه قراءتنا لا تصنيف سدايا، فتأكد من المستوى لدى سدايا أو الجهة التنظيمية لقطاعك قبل أن تعتمد عليه.

وتطلب الوثيقة كذلك إدماج إدارة المخاطر في المشروع منذ بدايته، بحيث تشمل مخاطر البيانات والخوارزميات والالتزام والتشغيل والجوانب القانونية والسمعة والجوانب التنظيمية [1]. أما احتساب درجة الخطر نفسها، فقد أطلقت له سدايا في 14 يوليو 2026 الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، وفيه مصفوفة تربط احتمال الحدوث بحجم الأثر [4]. ويشرح دليلنا عن إطار التبني هذه المصفوفة بمثال، فلا نكرره هنا.

حين تشتري الذكاء الاصطناعي بدلًا من أن تبنيه

كثير من الشركات تحصل على الذكاء الاصطناعي داخل منتج جاهز، ولا تدرّب نماذجها بنفسها. والمبادئ تشملها أيضًا: فالوثيقة تميّز «مالك النظام»، وهو من يطبّق النظام أو يستخدمه، عن «المطوّر» الذي يبنيه و«المقيّم» الذي يدققه [1]. والشركة التي تشغّل مساعد محادثة من مورّد هي مالكة النظام.

وتنطبق على المشتري ثلاثة أحكام مباشرة:

• العناية الواجبة قبل التوقيع. إذا بنى النظامَ طرفٌ ثالث، فعلى المالك أن يجري عناية واجبة في أخلاقيات الذكاء الاصطناعي، وأن يتأكد من أن الوثائق متاحة وقابلة للتتبع قبل الشراء أو الاعتماد [1].
• الضمانات التعاقدية. من مهام مسؤول الالتزام أن يضمن التزام أنظمة الأطراف الثالثة بالمبادئ عبر ضمانات في العقود [1].
• أسئلة موسومة للموردين. كل سؤال في قائمة التحقق الملحقة موسوم بأنه ملزم للطرف الثالث أو غير ملزم، فتعرف أي الأسئلة ينبغي أن يجيب عنها المورّد [1].

عمليًا، اطلب من المورّد كتابةً أن يبيّن كيف يختبر التحيز، وكيف يستطيع إنسان أن يتجاوز النظام أو يوقفه، وماذا يسجّل، وكيف سيبلغك بالأعطال أو تسرب البيانات. وإن كانت البيانات الشخصية ستخرج من المملكة في هذه العملية، فدليلنا عن نقل البيانات الشخصية خارج المملكة يشرح شروط نظام حماية البيانات الشخصية.

من يتولى أخلاقيات الذكاء الاصطناعي داخل الشركة؟

تحدد الوثيقة أربعة أدوار للجهات المطبِّقة [1]. كُتبت هذه الأدوار للجهات الكبيرة، لكن الشركة الصغيرة تستطيع أن تسندها إلى أشخاص موجودين لديها أصلًا.

والمقصود هو الفصل: من اختار الأداة لا ينبغي أن يكون وحده من يحكم على سلامة سلوكها.

قائمة التحقق والتقييم الذاتي والوسم التحفيزي

تنتهي الوثيقة بقائمة تحقق لأخلاقيات الذكاء الاصطناعي مرتّبة حسب مراحل دورة الحياة. وقد عددنا فيها 75 سؤالًا: 28 للتخطيط والتصميم، و14 لإعداد بيانات الإدخال، و13 للبناء والتحقق، و20 للنشر والمراقبة [1]. ويذكر كل سؤال المبدأ الذي يختبره. ومن أمثلتها: هل صمّمت المستوى المناسب من الإشراف البشري؟ وهل اختُبرت خطط البدائل عند تعطل النظام؟ وهل يُبلَّغ المستخدم بأسباب النتيجة التي وصل إليها النظام؟ وهل توجد وسيلة للإنصاف وجبر الضرر إذا وقع خطأ؟ [1]

ويسرد الملحق (أ) أدوات مساندة، منها: بيان موقف الإنصاف، وتقييم الأثر الأخلاقي، وتقييم الخوارزميات، وتقرير شرح أساليب الذكاء الاصطناعي، والتقييم الذاتي للسلامة، وأساليب حماية البيانات مثل إخفاء الهوية والترميز بأسماء مستعارة وحجب البيانات والتشفير والاستبدال بالرموز [1].

والتسجيل اختياري. فالوثيقة تنص على أن لسدايا أن تمنح أوسمة تحفيزية تعكس مستوى التزام المنتج أو الجهة [1]، وفي 26 مايو 2025 دعت سدايا شركات الذكاء الاصطناعي إلى الانضمام إلى منصة حوكمة البيانات الوطنية للحصول على أوسمة تحفيزية لمنتجاتها [5]. وتتيح المنصة خدمتين مرتبطتين:

1. التقييم الذاتي لأخلاقيات الذكاء الاصطناعي. تدخل المنصة، وتختار أداة تقييم أخلاقيات الذكاء الاصطناعي، وتقارن ممارسات جهتك الحالية بالمعايير المحددة، فتظهر لك نتيجة مستوى الالتزام الأخلاقي لنموذجك [6].
2. اعتماد مقدمي خدمات الذكاء الاصطناعي. تسجّل الجهة في المنصة، وتعيّن مسؤول ذكاء اصطناعي، وتدخل من حسابه، وتضيف المنتج، وتعبّئ الاستبيان مع الملفات المطلوبة. وبعد مراجعة اللجنة يصدر الوسم التحفيزي للمنتج، وتصدر للجهة شهادة اعتماد مقدم خدمة ذكاء اصطناعي [7].

وقد عدّت سدايا الأوسمة التحفيزية لأخلاقيات الذكاء الاصطناعي من المبادرات التي أسهمت في حلول المملكة خامسةً عالميًا في مؤشرات الثقة بالذكاء الاصطناعي في الكتاب السنوي للتنافسية العالمية الصادر عن IMD لعام 2026 [8].

أين تقع المبادئ من نظام حماية البيانات وبقية وثائق سدايا؟

مبادئ الأخلاقيات جزء من منظومة أوسع. ففي يونيو 2026 ذكرت سدايا أنها أصدرت 10 وثائق تنظيمية للاستخدام الأخلاقي والمسؤول للذكاء الاصطناعي [9]. ويحسن أن تعرف أربعة نصوص مرتبطة بها إلى جانب المبادئ:

• نظام حماية البيانات الشخصية ولائحته التنفيذية: نظام ملزم لكل معالجة للبيانات الشخصية، بما فيها ما يجري داخل أدوات الذكاء الاصطناعي [2].
• مبادئ الذكاء الاصطناعي التوليدي للعموم: تطبيق المبادئ على المساعدات الذكية وإنتاج المحتوى [3].
• مبادئ التزييف العميق، وأُعلن عنها في 8 مايو 2026: موافقة صريحة، وحماية البيانات الشخصية، وضمانات تقنية مثل العلامات المائية الرقمية [10].
• مسودة سياسة الذكاء الاصطناعي المسؤول، وطُرحت لإبداء المرئيات في 2 أبريل 2026، وتركّز على الوقاية من المخاطر وتوضيح الأدوار عبر دورة حياة الذكاء الاصطناعي [11]. ولم تكن صفحة الأنظمة في موقع سدايا تتضمن نسخة نهائية منها حين راجعناها في 14 أكتوبر 2026 [2].

أخطاء شائعة في فهم مبادئ سدايا

• «المبادئ للجهات الحكومية فقط». النطاق يذكر الشركات الخاصة والقطاع غير الربحي والعاملين والمستهلكين أيضًا [1].
• «نستخدم أدوات جاهزة، فالأمر لا يعنينا». الشركة التي تستخدم نظام ذكاء اصطناعي هي مالكته وفق الوثيقة، والعناية الواجبة في أنظمة الأطراف الثالثة جزء من مبدأ الشفافية [1].
• «الخطر البسيط يعني ألا نفعل شيئًا». حتى الأنظمة ذات المخاطر البسيطة أو المنعدمة يوصى بالتزامها بالمبادئ [1].
• «الوسم يعني أننا ملتزمون نظاميًا». الوسم يعكس تبني أخلاقيات الذكاء الاصطناعي، أما التزامات نظام حماية البيانات الشخصية فقائمة بذاتها [1][2].
• «الأخلاقيات مجرد بيان قيم». لكل مبدأ ضوابط في كل مرحلة، وأسئلة يُجاب عنها بنعم أو لا [1].

خطوتك التالية

اختر نظام الذكاء الاصطناعي الذي تعتمد عليه شركتك أكثر من غيره، سواء كان مساعد محادثة أو نموذج تقييم أو أداة داخل حزمة المكتب. ضعه على مستويات المخاطر الأربعة، ثم أجب عن أسئلة مرحلة التخطيط والتصميم في قائمة التحقق، خاصة ما يتعلق بالإشراف البشري وخطط البدائل. فإن جاءت أغلب الإجابات بنعم، فجرّب التقييم الذاتي في منصة حوكمة البيانات الوطنية لترى أين تضعه مبادئ الذكاء الاصطناعي التي أصدرتها سدايا. وإن كنت تبني الذكاء الاصطناعي داخل منتجك، فيمكنك التعرف على O AI (أو إيه آي)، شركة البرمجيات والذكاء الاصطناعي في الخبر، من صفحتنا الرئيسية.