رجل هندي يُزعم أنه حقق آلاف الدولارات من خلال عملية احتيال عبر الإنترنت تتضمن شخصية مؤثر تم إنشاؤها بالذكاء الاصطناعي تُعرف باسم "إميلي هارت"، وفقًا لمزاعم تتداول عبر الإنترنت. يُزعم أن العملية استهدفت داعمي حركة MAGA من خلال استخدام رسائل سياسية مصممة خصيصًا، وتفاعل عبر وسائل التواصل الاجتماعي، ومحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي لبناء مصداقية ودفع الاستغلال المالي. تسلط المخطط المبلغ عنه الضوء على اتجاه متزايد في الاحتيال المدعوم بالسيبرانية، حيث تُستخدم الهويات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل متزايد للتلاعب بالثقة، وتأثير السلوك، واستخراج الأموال من المجتمعات عبر الإنترنت. على عكس الاحتيالات التقليدية، يمكن لعمليات مؤثرين الذكاء الاصطناعي بسرعة إنشاء شخصيات رقمية مقنعة كاملة مع صور واقعية، ومقاطع فيديو، وتفاعلات عبر وسائل التواصل الاجتماعي، مما يجعل الخداع أكثر صعوبة في الكشف. وفقًا للتقارير، يُزعم أن الفرد وراء العملية اختبر استراتيجيات مختلفة لجمهور سياسي قبل أن يجد صدى مع شخصية ذات طابع محافظ. تم تقديم المؤثر بالذكاء الاصطناعي، الذي يُزعم أنه يُدعى إميلي هارت، كشخصية متوافقة سياسيًا قادرة على جذب التفاعل من الداعمين من خلال رسائل مصممة خصيصًا وجاذبية عاطفية. أعاد هذا الأمر إثارة المخاوف بشأن دور الذكاء الاصطناعي في المعلومات المضللة الرقمية والاحتيال. حذر الخبراء مرارًا وتكرارًا من أن أدوات الذكاء الاصطناعي التوليدية يمكنها الآن إنشاء صور بشرية واقعية للغاية، وملفات تعريف مزيفة، وأصوات صناعية، ومحتوى مقنع على نطاق واسع. هذه التقنيات، على الرغم من كونها مفيدة للابتكار، تُستغل أيضًا بشكل متزايد في مخططات انتحال الهوية، وعمليات الاحتيال الرومانسية، والاحتيال المالي، والتلاعب السياسي. كما أن التعليقات المزعومة المنسوبة إلى المشغل بشأن الجماهير السياسية قد زادت من ردود الفعل السلبية عبر الإنترنت، مما أثار نقاشًا حول المعلومات المضللة، والاستهداف عبر الإنترنت، والحدود الأخلاقية لحملات التأثير التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. أصبحت الهوية السياسية أداة شائعة بشكل متزايد في استراتيجيات التفاعل الرقمي، وغالبًا ما تُستخدم لبناء الثقة داخل مجتمعات معينة. تعكس عملية الاحتيال المبلغ عنها أيضًا المخاوف الأوسع بشأن الأصالة في الفضاءات عبر الإنترنت، حيث يجد المستخدمون صعوبة في التمييز بين الأفراد الحقيقيين والشخصيات التي تم إنشاؤها بواسطة الخوارزميات. لا تزال المنصات الاجتماعية تواجه ضغوطًا لتعزيز أنظمة الكشف عن الخداع الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي مع موازنة مخاوف الخصوصية وحرية التعبير. مع تقدم تكنولوجيا الذكاء الاصطناعي، أصبحت محو الأمية الرقمية والتحقق أكثر أهمية. يتم تشجيع المستخدمين على التحقق من الهويات، وتجنب التفاعلات المالية مع الحسابات غير الموثوقة، والبقاء حذرين من الشخصيات العاطفية المقنعة عبر الإنترنت—خصوصًا تلك التي تطلب التبرعات، أو الاستثمارات، أو المعلومات المالية الشخصية. من المتوقع أن تواصل السلطات والمراقبون في مجال الأمن السيبراني مراقبة حالات مماثلة مع تطور مخططات انتحال الهوية المدعومة بالذكاء الاصطناعي عبر أنظمة وسائل التواصل الاجتماعي.