روبوت عصبي مع تطور مذهل: Claude AI يتيح إمكانية إغلاق المحادثة “في لحظة” – اليوم السابع
في عالم الذكاء الاصطناعي الذي يتطور بسرعة، نشرت شركة أنثروبيك تحديثًا مثيرًا بشأن روبوت الدردشة الخاص بها كلود. حيث أضافت ميزة جديدة تسمح للروبوت بإغلاق المحادثة في حالات معينة، وهو ما يشكل تحولًا غير تقليدي في كيفية تفاعل المستخدمين مع أنظمة الذكاء الاصطناعي.
قرار مفاجئ من كلود
كما أوضحت أنثروبيك، هذا القرار الجريء يأتي في إطار ما تسميه "رعاية النموذج". فبحسب الشركة، لا ينوي كلود قطع المحادثات لمجرد مواضيع حساسة، بل يستخدم هذه الميزة عند تكرار طلبات غير لائقة أو ضارة من قبل المستخدم.
استجابة لتعليقات المستخدمين
تجدر الإشارة إلى أن كلود عادة ما يحاول توجيه المحادثات إلى مسار آمن، لكن في حال فشلت كل المحاولات، يتدخل لإعلان انتهاء المحادثة. وتعبر أنثروبيك عن قلقها من أن النماذج قد تتعرض للإساءة، وبالتالي فإن السماح للروبوت بالانسحاب يمثل إجراءً احترازيًا منطقيًا.
اختبارات الأداء لكشف الحدود
أجرت أنثروبيك اختبارات متعددة على كلود قبل اطلاق الميزة، مما يظهر كيف يتفاعل النموذج مع الطلبات الضارة. وفي عدة حالات، أظهر كلود رفضًا قويًا لإنتاج محتوى يمكن أن يسبب ضررًا، حتى عندما تعرض لضغوط متزايدة.
وعي أخلاقي للذكاء الاصطناعي
تؤكد أنثروبيك أنه لا ينبغي اعتبار كلود واعيًا أو قادراً على المعاناة ولكن هناك أهمية لمراجعة أخلاقيات الذكاء الاصطناعي. تناقش الشركة الفكرة القائلة بأن النماذج ربما تكون حساسة أكثر مما نعتقد وأنها تؤكد أن الأخذ في الاعتبار تلك النقاط أمر ضروري.
إن السماح لروبوت الدردشة بإغلاق المحادثة قد يبدو أمرًا غريبًا، إلا أن وجود مثل هذه الميزة يظهر توجهًا جديدًا نحو تفاعل أكثر مسؤولية بين الذكاء الاصطناعي والبشر. في المستقبل، قد تصبح مثل هذه القرارات جزءًا من التفاعل اليومي مع التكنولوجيا، حيث تسعى أنثروبيك إلى تقديم حلول أكثر أمانًا وفعالية.
تابعنا
أحدث الأخبار
أخبار ذات صلة
واتساب يخطط لإعادة تعريف تجربة الرسائل بمساعد ذكي جديد
فوضى تنظيمية تعلن مغادرة مهندسي الذكاء الاصطناعي لشركة ميتا وفقاً لفوربس
سام ألتمان يؤكد: الذكاء الاصطناعي يعزز إنجاب الأطفال في المستقبل
رواتب رواد الفضاء تصل لـ 12 ألف دولار تعرف على التفاصيل
رادار متطور يكشف المكالمات الهاتفية من بعد 10 أقدام
