الذكاء الاصطناعي
OpenAI تحظر حسابات مرتبطة بالصين بعد استغلال ChatGPT بشكل خاطئ
أخبار تك – وكالات أنباء
OpenAI تحظر حسابات مرتبطة بالصين بعد استغلال ChatGPT في حملات احتيال وتأثير سياسي
أعلنت شركة OpenAI، الخميس، حظر عدد من الحسابات المرتبطة بجهات صينية بعد رصد استخدامها منصة ChatGPT في تنفيذ عمليات احتيال إلكتروني وحملات تأثير سياسي سرية، وفق ما كشفه تقرير أمني حديث للشركة.
وقالت الشركة إن فرق الرصد لديها اكتشفت شبكات حسابات استخدمت أدوات الذكاء الاصطناعي لتوليد محتوى مضلل ورسائل احتيالية، بالتوازي مع أدوات رقمية أخرى، ضمن أنشطة وصفتها بـ«المنسقة وغير القانونية».
وأوضح التقرير أن بعض الحسابات استخدمت ChatGPT في إعداد رسائل احتيال عاطفي عبر منصات التواصل والمواعدة الإلكترونية، بهدف استدراج ضحايا ثم ابتزازهم مالياً، إضافة إلى صياغة رسائل انتحال صفة جهات رسمية ومؤسسات قانونية في الولايات المتحدة.
كما أشارت OpenAI إلى أنها حظرت حساباً مرتبطاً بشخص يُعتقد أن له صلة بجهات إنفاذ القانون في الصين، بعد استخدامه المنصة لتنسيق حملة تأثير سرية استهدفت معارضين صينيين في الخارج، إضافة إلى إعداد محتوى تشهيري موجّه ضد شخصية سياسية يابانية بارزة.
ووفق التقرير، تضمنت الأنشطة إعداد رسائل بريد إلكتروني ومنشورات رقمية تهدف إلى جمع معلومات عن أفراد ومؤسسات، والتأثير في الرأي العام عبر نشر محتوى سياسي موجّه على منصات مختلفة.
وأكدت OpenAI أنها قامت بإغلاق الحسابات المرتبطة بهذه الأنشطة فور اكتشافها، مشيرة إلى استمرار تطوير أنظمة المراقبة والحماية لمنع استغلال تقنيات الذكاء الاصطناعي في عمليات الاحتيال أو حملات التضليل السياسي.
وشددت الشركة على التزامها بما وصفته «الاستخدام الآمن والمسؤول للذكاء الاصطناعي»، مؤكدة أنها تعمل مع شركاء تقنيين وجهات مختصة لرصد وإحباط أي محاولات لاستغلال أدواتها في أنشطة ضارة أو غير قانونية.
