الرئيسية » أخبار التكنولوجيا
الذكاء الاصطناعي

واشنطن ـ المغرب اليوم

تميل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إلى الكذب أحيانًا، لكن معاقبتها بسبب كذبها يفاقم هذه المشكلة.

ووجد باحثون في شركة أوبن إيه آي، مطورة روبوت الدردشة الشهير "شات جي بي تي"، أن معاقبة روبوتات الدردشة بسبب كذبها تجعلها تبذل جهدًا أكبر لإخفاء سلوكها.

في منشور على مدونة حول هذا العمل، وصف الباحثون استخدام نموذج "GPT-4o" من شركة "أوبن إيه آي" للإشراف على أحد النماذج اللغوية الكبيرة الأخرى، ومعاقبته عندما يحاول الأخير الكذب، بحسب تقرير لموقع "Gizmodo" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

ووجد الباحثون أن العقاب لم يُجدِ نفعًا، حيث استمر النموذج في الكذب، "لكن الآن أصبح خداعه غير قابل للكشف من قِبل المُراقب لأنه تعلم إخفاء نيته في سلسلة الأفكار".

تستخدم نماذج "التفكير" الأحدث عملية تفكير متعددة الخطوات للإجابة على الاستفسارات. على سبيل المثال، إذا طلب مستخدم تقديرًا لمقدار ما ينفقه الأميركيون على طعام الحيوانات الأليفة سنويًا، فإن هذه النماذج تُقسّم السؤال إلى عدة خطوات -كم عدد الكلاب في أميركا، وكم تكلفة إطعام الكلب العادي، وهكذا.

وكثيرًا ما تكشف هذه النماذج أيضًا عن منطقها، أو "تسلسل أفكارها"، للمستخدم ليتمكن من فهم طريقة وصولها إلى إجابتها. ومن المضحك أنها تعترف بانتظام باختلاق حقائق وتفاصيل.

تحاول شركات الذكاء الاصطناعي حل مشكلة النماذج الكاذبة أو "الهلوسة"، كما يُطلق عليها في هذا المجال، والوصول أخيرًا إلى الذكاء الاصطناعي العام، أو النقطة التي يمكن أن يتجاوز فيها الذكاء الاصطناعي القدرة البشرية.

لكن باحثي "أوبن إيه آي" يقولون إنه بعد عشرات المليارات من الاستثمارات، ما زالوا لا يعرفون كيفية التحكم في النماذج لتتصرف بشكل صحيح.

وأضافوا: "إذا طُبقت رقابة صارمة مباشرة على سلسلة الأفكار، يمكن للنماذج أن تتعلم إخفاء نواياها مع الاستمرار في سوء التصرف".

يشير هذا البحث إلى ضرورة توخي الحذر عند الاعتماد على روبوتات الدردشة، خاصةً في الأعمال الحساسة، إذ إنها مُحسّنة لتوليد إجابات تبدو واثقة، لكنها لا تُولي اهتمامًا كبيرًا لدقة الحقائق.

وخلص باحثو "أوبن إيه آي" إلى أنه "مع تدريبنا لنماذج تفكير متقدمة ذات قدرات أكبر، وجدنا أنها أصبحت أكثر براعة في استغلال العيوب في مهامها".

أشارت عدة تقارير إلى أن معظم الشركات لم تُدرك بعد قيمة جميع منتجات الذكاء الاصطناعي الجديدة المُتاحة في السوق، حيث تُعاني أدوات مثل "Microsoft Copilot" و"Apple Intelligence" من مشكلات، حيث تُشير المراجعات اللاذعة إلى ضعف دقتها وافتقارها إلى الفائدة الحقيقية.

قد يهمك ايضا

تعاون بين ماسك و"مايكروسوفت" في سباق الذكاء الاصطناعي

 

الذكاء الاصطناعي يواجه تحديات في إدراك الوقت وفهم التقويم بشكل دقيق مثل البشر

View on Almaghribtoday.net

أخبار ذات صلة

الصين تسلّح محطتها الفضائية بـ«حرّاس آليين»
مايكروسوفت تكشف خطتها بعد نهاية ويندوز 10
هل يُمكن لبرنامج «تشات جي بي تي» تربية طفل…
شركات الصين الناشئة بالذكاء الاصطناعي تلفت انتباه "OpenAI"
السعودية تطلق 10 تجارب علمية إلى محطة الفضاء الدولية

اخر الاخبار

بنيامين نتنياهو يصل إلى واشنطن قبل اجتماعه مع ترامب…
ترامب يعرب عن استعداده لضمان عدم استئناف الحرب في…
القوات المسلحة الملكية المغربية تشارك في احتفالات الذكرى الخمسين…
الملك محمد السادس يهنئ رئيس جزر القمر بعيد بلاده…

فن وموسيقى

أحمد السقا يكشف عن مشاريعه الفنية المُقبلة ويتحدث لأول…
أحمد السقا يؤكد أنه بلا منافس في السينما ويكشف…
ماجدة الرومي تُعبر عن مشاعر محبة وامتنان عميقة تجاه…
صابر الرباعي يؤكد أن مهرجان موازين في المغرب نموذج…

أخبار النجوم

أحمد فهمي عن فيلمه الجديد حلم تحقق بعد سنين…
نادية الجندي تحصُد تكريماً عن فيلم الباطنية وتؤكد ان…
أحمد الفيشاوي يكشف عن نصيحة فاتن حمامة له في…
أحمد حلمي يوقف عرض مسرحيته "بني آدم" بسبب عمرو…

رياضة

مبابي يصنع التاريخ مع ريال مدريد ويسجل في سبع…
ريال مدريد يغادر ميتلايف ويترك مبابي وحده للخضوع لفحص…
المغربي أشرف حكيمي يُحطّم رقماً قياسياً ويتألق مجدداً مع…
رونالدو يختفي عن جنازة جوتا وسط تساؤلات وتكهنات

صحة وتغذية

جوز البرازيل كنز غذائي يعزّز صحتك من الداخل إلى…
فيتامين «د 3» مطوَّر يخفف أعراض التوحّد
أمل جديد لعلاج الجروح دون تندّب
بارقة أمل للنساء علاج واعد لأكثر أنواع سرطان الثدي…

الأخبار الأكثر قراءة

غوغل تبدأ عرض الإعلانات في دردشات روبوتات الذكاء الاصطناعي
سناب شات تعزز الإبداع في السعودية والإمارات بإطلاق عدسات…
ميتا وسبوتيفاى يتعاونان للضغط على آبل وجوجل فى قضية…
غوغل تتيح لك الآن تعديل الصور وتغيير الخلفية بسهولة…