الميزة الجديدة في chatgpt قنبلة موقوتة openai تحاول احتوائها
آخر تحديث GMT 22:51:18
المغرب اليوم -
إنقاذ شاباً مغربياً حاول السباحة إلى إسبانيا عبر البحر باستخدام عوامة وزعانف الجيش الإسرائيلي يقر استراتيجية دفاعية هجومية ويبدأ فرض مناطق عازلة على حدود غزة ولبنان وسوريا حماس تحذر من تداعيات الإبادة والتجويع في غزة وتستنكر الصمت العربي والإسلامي جيش الاحتلال الإسرائيلي يعلن عن تنفيذ عملية عسكرية أسفرت عن اعتقال عدد من تجار الأسلحة في جنوب سوريا الكنيست الإسرائيلي يصوت غداً على مشروع قانون لفرض السيادة على الضفة الغربية أعلن أبو حمزة الناطق بإسم سرايا القدس التابعة لحركة الجهاد الإسلامي في قطاع غزة بعد ظهر اليوم عن حريق داخل المستشفى الجهوي الحسن الثاني في الداخلة تسبب في انقطاع التيار الكهربائي وانتشار دخان كثيف بلجيكا تعتقل جنديين إسرائيليين بتهمة ارتكاب جرائم حرب في غزة السلطات التركية تعتقل الإرهابي محمد عبد الحفيظ في مطار إسطنبول خلال عودته من رحلة خارج البلاد المرصد السوري لحقوق الإنسان يعلن ارتفاع عدد قتلى السويداء إلى 1265 قبل سريان وقف إطلاق النار
أخر الأخبار

الميزة الجديدة في ChatGPT قنبلة موقوتة OpenAI تحاول احتوائها

المغرب اليوم -

المغرب اليوم - الميزة الجديدة في ChatGPT قنبلة موقوتة OpenAI تحاول احتوائها

واشنطن -المغرب اليوم

يَعِدُ أحدثُ مُنتَج من شركة "OpenAI" بتسهيل جمع البيانات تلقائيًا، وإنشاء جداول البيانات، وحجز الرحلات، وإعداد عروض تقديمية، وربما، حتى المساعدة بناء سلاح بيولوجي.

ويُعد "وكيل شات جي بي تي"، وهو وكيل ذكاء اصطناعي جديد أضافته الشركة لروبوت الدردشة "شات جي بي تي" قادر على اتخاذ إجراءات نيابةً عن المستخدم، أولَ مُنتَج تُصنِّفه "OpenAI" على أنه يتمتع بقدرة "عالية" في ما يتعلق بالمخاطر البيولوجية.

ويعني هذا التصنيف أن نموذج الذكاء الاصطناعي يُمكنه تقديم مساعدة فعّالة للجهات والأشخاص "المبتدئين" وتمكينهم من التسبب في تهديدات بيولوجية أو كيميائية، بحسب تقرير لمجلة فورتشن، اطلعت عليه "العربية Business".

ووفقًا لـ"إطار التأهب" الخاص بـ"OpenAI"، الذي تستخدمه الشركة لرصد المخاطر الجديدة التي تُسبِّب أضرارًا جسيمة من نماذجها المتقدمة والاستعداد لها، فإن التداعيات الواقعية لهذا الأمر قد تعني أن حوادث الإرهاب البيولوجي أو الكيميائي التي تُنفذها جهات غير حكومية ستصبح أكثر احتمالًا وتكرارًا.

وقال بواز باراك، أحد أعضاء الفريق الفني في "OpenAI"، في منشور على مواقع التواصل: "البعض قد يظن أن المخاطر البيولوجية غير حقيقية، وأن النماذج لا تقدم سوى معلومات يمكن العثور عليها من خلال البحث. ربما كان هذا صحيحًا في 2024، لكنه بالتأكيد ليس صحيحًا اليوم. بناءً على تقييماتنا وتقييمات خبرائنا، فإن الخطر حقيقي للغاية".

وأضاف: "في حين لا يمكننا الجزم بأن هذا النموذج قادر على تمكين شخص مبتدئ من إحداث ضرر بيولوجي جسيم، أعتقد أنه كان من غير المسؤول إطلاق هذا النموذج دون إجراءات وقائية شاملة مثل تلك التي قمنا بتطبيقها".

تدابير وقائية

قالت "OpenAI" إن تصنيف النموذج على أنه عالي الخطورة لإساءة الاستخدام البيولوجي كان "نهجًا احترازيًا"، وهو تصنيف أدى إلى إجراءات وقائية إضافية للأداة.

وقالت كيرين جو، الباحثة في مجال السلامة لدى "OpenAI"، إنه على الرغم من عدم امتلاك الشركة أدلة قاطعة على أن النموذج يمكن أن يُرشد فعليًا شخصًا مبتدئًا إلى إحداث ضرر بيولوجي جسيم، فقد فعّلت الشركة إجراءات الحماية على أي حال.

وتشمل هذه الإجراءات جعل وكيل شات جي بي تي يرفض الرسائل التي قد تكون مُصممة لمساعدة شخص ما على إنتاج سلاح بيولوجي، وأنظمة ترصد الطلبات التي قد تكون غير آمنة وتحولها للمراجعة من قبل خبراء، وقواعد صارمة لحجب المحتوى الخطير، واستجابات أسرع للمشكلات، ومراقبة دقيقة لأي علامات على سوء الاستخدام.

وأصبحت الشركة قلقة بشكل متزايد بشأن احتمالية إساءة استخدام النماذج في تطوير الأسلحة البيولوجية. وفي منشور بمدونتها الشهر الماضي، أعلنت "OpenAI" أنها تُكثف اختبارات السلامة للحد من خطر استخدام نماذج الذكاء الاصطناعي الخاصة بها للمساعدة في صنع أسلحة بيولوجية.

وحذرت الشركة من أنه بدون هذه الاحتياطات، قد تُمكّن النماذج قريبًا من "رفع مستوى المبتدئين"، أي مساعدة الأفراد ذوي الخلفية العلمية المحدودة على تطوير أسلحة خطيرة.

وقال باراك: "على عكس التهديدات النووية والإشعاعية، فإن الحصول على المواد لا يُمثل عائقًا كبيرًا أمام إنشاء تهديدات بيولوجية وبالتالي يعتمد الأمن بشكل أكبر على ندرة المعرفة والمهارات المخبرية".

وتابع: "بناءً على تقييماتنا وخبراء خارجيين، يُمكن لوكيل شات جي بي تي غير المقيد سد هذه الفجوة المعرفية وتقديم نصائح أقرب إلى خبير متخصص".

تُعد ميزة الوكيل الجديدة في "شات جي بي تي"، التي أضافتها "OpenAI" مؤخرًا ،محاولةً للاستفادة من أحد أكثر مجالات تطوير الذكاء الاصطناعي رواجًا وخطورةً؛ إلا وهو وكلاء الذكاء الاصطناعي.

وتتسابق مختبرات الذكاء الاصطناعي حاليًا لبناء وكلاء يمكنهم إدارة المهام الرقمية المعقدة بشكل مستقل، ويأتي إطلاق هذه الميزة عقب إصدارات مماثلة من "غوغل" و"أنثروبيك". وترى شركات التكنولوجيا الكبرى في وكلاء الذكاء الاصطناعي فرصةً تجاريةً واعدةً، إذ تتجه الشركات بشكل متزايد نحو دمج الذكاء الاصطناعي في سير العمل وأتمتة بعض المهام.

وأقرت "OpenAI" بأن زيادة استقلالية نماذج الذكاء الاصطناعي تُسبب مخاطر أكبر، وتؤكد الشركة أهمية تحكم المستخدم للحد من هذه المخاطر. على سبيل المثال، يطلب الوكيل الإذن قبل اتخاذ أي إجراء مهم، ويمكن للمستخدم إيقافه مؤقتًا أو إعادة توجيهه أو إيقافه في أي وقت.

قد يهمك أيضــــــــــــــا

 اكتشاف سلالة بكتيرية جديدة في الفضاء على متن محطة "تيانجونج" الصينية

 الهند تعزز قدراتها الفضائية بإطلاق أقمار اصطناعية جديدة وسط تصاعد التوتر مع باكستان

 

 

 

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

الميزة الجديدة في chatgpt قنبلة موقوتة openai تحاول احتوائها الميزة الجديدة في chatgpt قنبلة موقوتة openai تحاول احتوائها



ياسمين صبري تختار الفستان الأسود الصيفي بأسلوب أنثوي أنيق يبرز أناقتها وجاذبيتها

القاهرة ـ المغرب اليوم

GMT 02:47 2025 الأربعاء ,11 حزيران / يونيو

مواعيد مباريات ريال مدريد في كأس العالم للأندية

GMT 16:06 2020 الإثنين ,01 حزيران / يونيو

لا تتهوّر في اتخاذ قرار أو توقيع عقد

GMT 10:45 2025 الثلاثاء ,10 حزيران / يونيو

تاه جاهز للعب مع بايرن في مونديال الأندية

GMT 10:39 2025 الثلاثاء ,10 حزيران / يونيو

برشلونة يقترب من غارسيا ويطالب شتيغن بالرحيل

GMT 16:24 2019 الإثنين ,02 كانون الأول / ديسمبر

أبرز الأحداث اليوميّة لمواليد برج"الجدي" في كانون الأول 2019

GMT 15:01 2017 الجمعة ,08 كانون الأول / ديسمبر

الداكي رداد حكمًا لمباراة حسنية أغادير و الفتح الرباطي

GMT 03:32 2023 الجمعة ,14 إبريل / نيسان

فيضان ثاني أكبر سدود دهوك بعد هطول أمطار غزيرة

GMT 10:15 2022 الخميس ,21 إبريل / نيسان

ديكورات خشبية للتلفزيون المعلّق في المنزل

GMT 08:31 2020 السبت ,05 كانون الأول / ديسمبر

5 أمور يجب معرفتها قبل الحصول على لقاح كورونا

GMT 22:15 2019 الخميس ,19 كانون الأول / ديسمبر

الملكي يقرر التصعيد ضد حكم مباراة الكلاسيكو الأسباني

GMT 11:24 2018 الإثنين ,05 تشرين الثاني / نوفمبر

عموته يؤكد أنه يركز حالياً على دراسته العليا في قطر
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
بناية النخيل - رأس النبع _ خلف السفارة الفرنسية _بيروت - لبنان
almaghrib, Almaghrib, Almaghrib