الدرس 4 من 5

تلخيص درس الذكاء الاصطناعي التوليدي وخصوصية البيانات

الدرس باختصار

تطبيقات الذكاء الاصطناعي التوليدي في المال تحتاج إلى بياناتنا كي تعمل: الراتب، وتاريخ المعاملات، والحسابات المصرفية، وعادات الإنفاق. وكلّما ازداد ما تجمعه هذه التطبيقات، ازداد السؤال: مَن يرى هذه البيانات، وكيف تُحفَظ، وماذا يحدث لو تسرّبت؟ في هذا الدرس سنتعرّف مفهوم خصوصية البيانات، ولماذا تُعدّ البيانات المالية الحسّاسة من أخطر ما نملك، وما المخاطر الأربعة التي تهدّد خصوصيتها عند استخدام الذكاء الاصطناعي التوليدي، وما التقنيات المتقدّمة التي طوّرها الباحثون لحمايتها. وستكون في نهاية الدرس قادرًا على تقييم مستوى الأمان في تطبيق مالي ذكي قبل استخدامه، وعلى اقتراح إرشادات عملية تحمي بياناتك المالية الشخصية.

مصطلحات الدرس

كل مصطلحات الدرس بصفحة وحدة · راجعها ببطاقات

خصوصية البيانات (Data Privacy)
حماية المعلومات الشخصية والبيانات المالية الحسّاسة من الوصول غير المُصرَّح به، وضمان استخدامها بصورة قانونية وآمنة.
أنماط السلوك المالي
مجموعة من العادات والتصرُّفات المُتكرِّرة التي يُواظِب عليها الأفراد أو المؤسسات في التعاملات المالية اليومية، وتشمل طرائق الإنفاق والادخار والاستثمار والتفاعل مع المؤسسات المالية.
الهجمات الاستخراجية (Extraction Attacks)
امتلاك المهاجِمين تقنيات مُتطوِّرة تُمكِّنهم من استخراج بيانات التدريب من النماذج المُدرَّبة، أي أنّ البيانات الحسّاسة المُستخدَمة في التدريب قد تقع في أيدي أطراف ضارّة.
التحليل الاستنتاجي (Inference Attacks)
استنتاج المهاجِمين معلومات حسّاسة عن طريق تحليل أنماط استجابة النموذج، لا عن طريق اكتشاف البيانات مباشرةً؛ كأن يتمكّنوا من تحديد ما إذا كان شخص ما موجودًا في بيانات التدريب أم لا.
التعلُّم الفيدرالي (Federated Learning)
تقنية تتيح تدريب نماذج الذكاء الاصطناعي من دون نقل البيانات الحسّاسة إلى خادم مركزي؛ إذ يُدرَّب النموذج محليًّا على أجهزة المستخدِمين، ثمّ تُشارَك التحديثات فقط مع الخادم المركزي.
الخصوصية التفاضلية (Differential Privacy)
تقنية رياضية مُتقدِّمة تهدف إلى حماية خصوصية الأفراد داخل قواعد البيانات، بإضافة ضوضاء أو تغييرات صغيرة محسوبة إلى البيانات أو النتائج.
التشفير (Encryption)
تحويل البيانات إلى شكل مُرمَّز لا يُمكن قراءته إلّا باستخدام مفتاح خاص؛ ما يوفِّر الحماية للمعلومات ويمنع الوصول غير المُصرَّح به إليها.
إخفاء الهُويَّة (Advanced Anonymization)
تقنية تتيح إزالة أيِّ معلومات قد تؤدّي إلى تحديد هُويَّة الأشخاص من مجموعات البيانات، أو تعديل هذه المعلومات على نحوٍ يُحقِّق هذا الهدف.

أهم الأفكار

ورقة مراجعة للطباعة

خصوصية البيانات ولماذا تُعدّ البيانات المالية حسّاسة

خصوصية البيانات تعني حماية معلوماتك الشخصية وبياناتك المالية الحسّاسة من وصول أي جهة غير مُصرَّح لها، وضمان أنّ مَن يستخدمها يفعل ذلك بصورة قانونية وآمنة. والذكاء الاصطناعي في التطبيقات المالية لا يعمل من فراغ: فهو يحتاج إلى جمع كثير من البيانات ليحلّل المعاملات ويقدّم الاستشارات، مثل الراتب، وتاريخ المعاملات، والحسابات المصرفية، وعادات الإنفاق. ولهذا يقع على الشركات والمؤسسات المالية واجب حماية هذه البيانات ومنع تسريبها أو استخدامها من دون إذن. وتُعدّ المعلومات المالية الشخصية من أشدّ أنواع المعلومات حساسية، لأنّها تكشف تفاصيل دقيقة عن وضع الفرد اقتصاديًّا واجتماعيًّا، وتشمل: أرقام الحسابات المصرفية وكلمات المرور، وتفاصيل بطاقات الائتمان والخصم، والرواتب والدخل الشهري والسنوي، وقيمة الأصول والاستثمارات والممتلكات، وتفاصيل الديون والقروض والالتزامات المالية. وحمايتها من الاختراق والقرصنة الإلكترونية هي ما يُعزِّز ثقة العملاء بالتقنيات الرقمية ويحفِّزهم على استخدامها بأمان.

أنماط السلوك المالي: ماذا تكشف بياناتك عنك

تجمع التطبيقات المالية الذكية بيانات مُتنوِّعة وتحلّلها، وهي بيانات مرتبطة ارتباطًا مباشرًا بعادات الأفراد في الإنفاق والادخار. ويُطلَق عليها اسم أنماط السلوك المالي، وهي العادات والتصرُّفات المُتكرِّرة في التعاملات المالية اليومية، وتُستخدَم لفهم السلوك المالي بشكل أفضل والتنبُّؤ بالقرارات المستقبلية. وتشمل خمسة جوانب: عادات الإنفاق والشراء، أي ماهيّة المشتريات وأنواعها ومدى تكرارها وحجم الإنفاق الشهري عليها؛ والأوقات والأماكن الخاصة بالمعاملات المالية، مثل توقيت سحب الأموال أو استخدام البطاقات؛ وتفضيلات الاستثمار ودرجة تحمُّل المخاطر، أي ميل الفرد إلى الاستثمارات الآمنة أو ذات المخاطر المُرتفِعة؛ والأهداف المالية والخُطَط المستقبلية، مثل الادخار للتقاعد أو شراء منزل؛ والتفاعل مع المؤسسات المالية المختلفة، مثل البنوك والمَحافظ الرقمية. ويؤكّد خبراء الأمن السيبراني أنّ البيانات المالية الشخصية من أكثر البيانات قيمة في السوق السوداء؛ إذ يُمكِن استغلالها في سرقة الهُويَّة والاحتيال المالي.

المخاطر الأربعة التي تهدّد خصوصية البيانات

ينطوي استخدام الذكاء الاصطناعي التوليدي في المجال المالي على أربعة مخاطر. الأوّل: تسريب البيانات أثناء عملية التدريب؛ فعند تدريب النماذج على بيانات مالية حقيقية قد تُحفَظ في ذاكرة النموذج ثمّ تظهر لاحقًا في مُخرَجاته، وقد وقع ذلك فعلًا حين سرّب موظفون معلومات حسّاسة عن شركتهم أثناء استخدامهم تطبيق ذكاء اصطناعي لمراجعة الكود البرمجي. الثاني: الهجمات الاستخراجية، إذ يملك المهاجِمون تقنيات مُتطوِّرة تُمكِّنهم من استخراج بيانات التدريب من النموذج المُدرَّب، أي أنّ ما دخل في التدريب قابل للخروج إلى أيدي أطراف ضارّة. الثالث: التحليل الاستنتاجي؛ فقد يصعب اكتشاف البيانات مباشرةً، لكنّ المهاجِم يستطيع استنتاج معلومات حسّاسة بتحليل أنماط استجابة النموذج، كأن يحدّد ما إذا كان شخص بعينه موجودًا في بيانات التدريب أم لا. الرابع: مشاركة البيانات مع طرف ثالث، إذ تحتفظ تطبيقات تجارية كثيرة بحقِّ استخدام البيانات المُدخَلة لتحسين خدماتها أو مشاركتها مع شركاء تجاريين؛ ما يعرِّض خصوصية المستخدِمين للخطر.

تقنيتان متقدّمتان: التعلُّم الفيدرالي والخصوصية التفاضلية

طوّر الباحثون والعاملون في هذا المجال تقنيات مُتقدِّمة لحماية خصوصية البيانات، أبرزها أربع. الأولى: التعلُّم الفيدرالي، ويُدرَّب فيه النموذج محليًّا على أجهزة المستخدِمين، ولا يُشارَك مع الخادم المركزي إلّا التحديثات، لا البيانات الأصلية؛ ومزاياه بقاء البيانات الحسّاسة في جهاز المستخدِم بصورة دائمة، والحدُّ من مخاطر تسرُّبها بصورة كبيرة، والإفادة من البيانات المُوزَّعة دون انتهاك الخصوصية، والتوافق الأفضل مع قوانين حماية البيانات. الثانية: الخصوصية التفاضلية، وهي تقنية رياضية تحمي خصوصية الأفراد في قواعد البيانات بإضافة ضوضاء (مُشوِّشات) أو تغييرات صغيرة محسوبة إلى البيانات أو النتائج، بحيث لا يُمكن معرفة إذا كان شخص ما موجودًا في المجموعة أم لا، مع بقاء الإفادة من البيانات في التحليل بوجه عام. وآليّتها: ضوضاء مدروسة لا تُغيِّر طبيعة الصورة الكلّية، وإخفاء الإسهامات الفردية فلا تُميَّز بيانات فرد واحد، والحفاظ على دِقّة النتائج العامة، وحماية مُثبَتة رياضيًّا ضدّ الاختراق أو التعقُّب.

التشفير المُتجانِس وإخفاء الهُويَّة وحمايتك الشخصية

الثالثة: التشفير المُتجانِس. والتشفير تحويل البيانات إلى شكل مُرمَّز لا يُمكن قراءته إلّا باستخدام مفتاح خاص؛ ما يوفِّر الحماية للمعلومات ويمنع الوصول غير المُصرَّح به إليها. وما يميّز التشفير المُتجانِس أنّه يتيح إجراء عمليات حسابية على البيانات وهي مُشفَّرة من دون فكّ التشفير؛ فتعالج المؤسسات المالية بيانات الرواتب والحسابات البنكية من دون أن تراها مباشرة. وأهمّ تطبيقاته: تحليل مخاطر القروض من دون كشف بيانات العميل، وإجراء العمليات الحسابية على بيانات مالية مُشفَّرة بشكل آمن، ومشاركة البيانات بين البنوك والمؤسسات من دون خرق الخصوصية، وتدريب النماذج ببيانات مُشفَّرة. والرابعة: إخفاء الهُويَّة، أي إزالة أيِّ معلومات قد تؤدّي إلى تحديد هُويَّة الأشخاص من مجموعات البيانات أو تعديلها لتحقيق ذلك، فتظلّ هُويَّة الأفراد محميّة حتّى لو كانت البيانات متاحة. وشخصيًّا: تجنّب مشاركة معلوماتك المالية عبر تطبيقات مُبهَمة أو رسائل غير آمنة، واستخدم القنوات الرسمية والمُشفَّرة فقط.

أمثلة محلولة

مثال 1: أيُّ البيانات يُعدّ بيانات مالية حسّاسة؟

طلب منك تطبيق للتخطيط المالي أن تُدخِل البيانات الآتية: اسم مدرستك، ورقم حسابك المصرفي، ولونك المفضّل، وقيمة قرض السيارة الذي تسدّده أسرتك، وراتبك الشهري من عملك الصيفي. أيُّ هذه البيانات يُعدّ من البيانات المالية الحسّاسة التي يجب حمايتها؟

اعرض الحل
  1. أوّلًا نتذكّر المعيار الذي نحكم به: البيانات المالية الحسّاسة هي المعلومات التي تكشف تفاصيل دقيقة عن وضع الفرد اقتصاديًّا واجتماعيًّا. فالسؤال في كل بند هو: هل يكشف هذا البند شيئًا عن مالي أو عمّا أملك أو عمّا عليّ؟
  2. نمرّ على القائمة المُعدَّدة للبيانات المالية الحسّاسة: أرقام الحسابات المصرفية وكلمات المرور، وتفاصيل بطاقات الائتمان والخصم، والرواتب والدخل الشهري والسنوي، وقيمة الأصول والاستثمارات والممتلكات، وتفاصيل الديون والقروض والالتزامات المالية. هذه القائمة هي مِسطَرتنا.
  3. اسم المدرسة: معلومة شخصية، لكنّها لا تُظهِر دخلًا ولا دَينًا ولا حسابًا، فهي ليست من البيانات المالية الحسّاسة بحسب هذه القائمة.
  4. رقم الحساب المصرفي: يقع مباشرةً تحت بند أرقام الحسابات المصرفية، فهو بيان مالي حسّاس؛ والبيانات المالية الشخصية يُمكِن قرصنتها ثمّ استخدامها في سرقة الأموال، أو فتح حسابات مصرفية باسم صاحبها، أو الحصول على قروض من دون علمه.
  5. اللون المفضّل: لا علاقة له بأيِّ بند مالي، فهو خارج التصنيف.
  6. قيمة قرض السيارة: يقع تحت بند تفاصيل الديون والقروض والالتزامات المالية، فهو بيان مالي حسّاس يكشف ما على الأسرة من التزامات.
  7. الراتب الشهري: يقع تحت بند الرواتب والدخل الشهري والسنوي، فهو بيان مالي حسّاس يكشف مستوى الدخل.
  8. الخلاصة: ثلاثة بنود حسّاسة هي رقم الحساب المصرفي وقيمة قرض السيارة والراتب الشهري؛ ولو جُمِعت هذه الثلاثة معًا رسمت صورة دقيقة عن وضع الأسرة المالي، ولهذا يجب ألّا تُدخَل إلّا في تطبيق موثوق وعبر قناة مُشفَّرة.

الجواب: البيانات الحسّاسة هي: رقم الحساب المصرفي، وقيمة قرض السيارة، والراتب الشهري؛ أمّا اسم المدرسة واللون المفضّل فليسا منها.

اختبر حالك

1. عرّف خصوصية البيانات.

2. عدّد ثلاثة من جوانب أنماط السلوك المالي الخمسة.

3. صواب أم خطأ: مشاركة البيانات مع طرف ثالث لا تُعدّ من المخاطر التي تهدّد خصوصية البيانات.

4. بنك يريد تحليل مخاطر قرض من دون أن يطّلع على بيانات العميل مباشرة. أيّ تقنية يستخدم؟

باقي الدرس للمسجّلين، ومجاناً

  • 3 أمثلة محلولة كمان
  • 3 أخطاء شائعة وكيف تتجنّبها
  • إجابات «اختبر حالك» مع الشرح
سجّل مجاناً وشوف الدرس كامل

جاهز تتدرّب؟

12 سؤال على هالدرس، بتتصحّح خطوة خطوة، ومعها تلميحات لما تعلق. أول أسئلة مجانية.

تدرّب على 12 سؤال من هالدرس مجانًا