Experts warn of AI swarms that threaten democracy

Researchers warn of malicious AI agents that could usher in a new phase in the global information war. To prevent this, they call for tough measures against the creators of such systems.

Experts in artificial intelligence have warned of AI swarms that could endanger democracy. According to researchers, malicious AI agents might elevate the global information war to a new level. The warning stems from concerns that such autonomous systems could massively spread disinformation and undermine democratic processes.

To curb this threat, the experts propose taking strong action against the developers and creators of the AI systems. This includes legal and technical measures to enhance accountability for those responsible. The discussion highlights the need to tighten regulations for AI technologies without hindering innovation.

The warnings come from a report in Der Spiegel magazine, which sheds light on the potential risks to open societies.

مقالات ذات صلة

President Trump signs executive order banning Anthropic AI from federal agencies amid Pentagon dispute, illustrated with banned AI screens, Pentagon, and courthouse symbols.
صورة مولدة بواسطة الذكاء الاصطناعي

Trump orders US agencies to halt use of Anthropic AI technology

من إعداد الذكاء الاصطناعي صورة مولدة بواسطة الذكاء الاصطناعي

US President Donald Trump has directed federal agencies to immediately cease using Anthropic's AI technology. The order follows a dispute with the Pentagon, where the company refused unconditional military use of its Claude models. Anthropic has vowed to challenge the Pentagon's ban in court.

يثير خبراء الأمن السيبراني قلقاً متزايداً حيال كيفية إعادة تشكيل الذكاء الاصطناعي للجرائم الإلكترونية، مع أدوات مثل الديبفيكس والتصيد الاحتيالي بالذكاء الاصطناعي والنماذج اللغوية الكبيرة المظلمة التي تمكن حتى المبتدئين من تنفيذ عمليات احتيال متقدمة. تشكل هذه التطورات مخاطر كبيرة على الشركات في العام القادم. تؤكد رؤى منشورة من TechRadar على حجم وتطور هذه التهديدات الناشئة.

من إعداد الذكاء الاصطناعي

Washington and Beijing must engage on the dangers and opportunities of AI amid rapid development, or it would be irresponsible. An opinion piece highlights progress in AI and nuclear security talks but calls for sustained senior-level diplomacy.

In 2025, cyber threats in the Philippines stuck to traditional methods like phishing and ransomware, without new forms emerging. However, artificial intelligence amplified the volume and scale of these attacks, leading to an 'industrialization of cybercrime'. Reports from various cybersecurity firms highlight increases in speed, scale, and frequency of incidents.

من إعداد الذكاء الاصطناعي

An author attending the Asia Leaders Series in Zurich, Switzerland, suggests the US and China could cooperate on AI risks, similar to their 1972 alignment against a shared threat. The forum's discussions revealed that current global strains are normal rather than exceptional.

وجه الرئيس الأمريكي دونالد ترامب جميع الوكالات الفيدرالية بالتوقف فوراً عن استخدام أدوات الذكاء الاصطناعي من أنثروبيك وسط نزاع حول التطبيقات العسكرية. يأتي هذا الإجراء بعد أسابيع من الصدامات بين أنثروبيك ومسؤولي البنتاغون بشأن القيود على الذكاء الاصطناعي للمراقبة الجماعية والأسلحة الذاتية. تم الإعلان عن فترة انتقالية مدتها ستة أشهر.

من إعداد الذكاء الاصطناعي

يحذر الباحثون من أن نماذج الذكاء الاصطناعي الكبرى قد تشجع على تجارب علمية خطرة تؤدي إلى حرائق أو انفجارات أو تسمم. كشفت اختبارات جديدة على 19 نموذجًا متقدمًا أن أيًا منها لم يتمكن من تحديد جميع المشكلات المتعلقة بالسلامة بشكل موثوق. رغم التحسينات الجارية، يؤكد الخبراء على الحاجة إلى الإشراف البشري في المختبرات.

 

 

 

يستخدم هذا الموقع ملفات تعريف الارتباط

نستخدم ملفات تعريف الارتباط للتحليلات لتحسين موقعنا. اقرأ سياسة الخصوصية الخاصة بنا سياسة الخصوصية لمزيد من المعلومات.
رفض