مقاله 32: ما و اين موجودات زبان نفهم!: بحثي در اخلاق ربات ها و ماشين هاي هوشمند
«با مسوول يك شركت قرار مهمي داريد. شركت در طبقه يازدهم است و چون آسانسور خراب است مجبور مي شويد علاوه بر اين كه از پله ها به سختي بالا مي رويد وسائل سنگين تان را نيز با خود بكشيد. در ميانه راه مرد جواني، كه بعدا متوجه مي شويد منشي شركت است، در حمل وسائل به شما كمك مي كند. وارد دفتر شركت كه مي شويد منشي ضمن عذرخواهي، براي شما يك نوشيدني گوارا مي آورد و سعي مي كند به شما كمك كند كه كارهاي تان به بهترين وجه انجام شود. شما كه از اين همه دلسوزي و نوع دوستي مرد جوان به وجد آمده ايد هم از صميم قلب هم به صورت زباني از او تشكر مي كنيد و تصميم مي گيريد با دادن هديه اي لطف او را جبران كنيد ولي وقتي تصميم خود را با رئيس شركت در ميان مي گذاريد او با خنده اي شما را از اين كار منصرف مي كند و مي گويد كار شما هيچ فايده اي ندارد. رئيس هنگامي كه با چهره متعجب شما مواجه مي شود مي گويد: چون او آدم نيست بلكه يك ماشين هوشمند پيشرفته است كه طوري طراحي شده كه بتواند در موقعيت هاي مختلف تصميم گيري كند»
اكنون آيا ديدگاه شما درباره منشي همان ديدگاه چند لحظه قبل است؟ اگر نگاه تان عوض شده چه چيزي باعث اين امر شده است؟ آيا تشكرتان از ربات منشي كاري بي معنا بوده است؟ آيا بايد به جاي منشي از سازنده آن يا از رئيس شركت تشكر كنيد؟ اگر منشي، و در واقع ربات يا ماشين هوشمند، در بين راه، خواسته يا ناخواسته به وسائل شما كه بسيار گران قيمت هم هستند، آسيبي مي رساند كار او را بد مي دانستيد؟ آيا سرزنش كردن او ممكن و معنادار بود؟ آيا بايد سازنده اش را تقبيح مي كرديد يا رئيس شركتي كه او را به كار گرفته است؟ (نمي گوييم شكايت به مراجع قضايي، چون اين امر در حوزه اخلاق جاي نمي گيرد و مسئله اي حقوقي مي شود كه اكنون مورد بحث نيست). اصلا مي شود كار او را خوب يا بد دانست؟
ماشين ها و ربات هاي هوشمند هر روز بيش از پيش وارد زندگي انسان ها مي شوند و كارهاي بيشتري را بر عهده مي گيرند.«شرکت IBM میگوید در پنج سال آینده کامپیوترها خواهند توانست لمس کنند، بچشند، بوکنند، بشنوند و ببینند. ابزارهای حسگر به کمک خریداران آنلاین برای لمس محصولات، پدر و مادرها برای دریافت صدای گریه بچه، آشپزهای آنلاین برای پخت پز و یک غذای خوشمزه و سالم، و غیره خواهد آمد. اما تاکنون چیزی در مورد حس ششم نگفتهاند!»(منبع)حضور اين ميهمانان خوانده (!) در جامعه انساني امروز، مباحث و سوال هاي فراواني را مطرح كرده و مي كند كه بخشي از آن ها به حوزه اخلاق كاربردي مربوط مي شود. به همين خاطر است كه امروزه «اخلاق ربات ها» (roboethics) يك اصطلاح نسبتا متداول در ادبيات اخلاقي شده است (اطلاعات بيشتر در اينجا و اينجا) و «اخلاق روبات هاي هوشمند» (intelligent robots ethics) يكي از شاخه هاي مورد توجه در فلسفه اخلاق است و درباره آن كتاب ها و مقالات مختلفي – متاسفانه نه به زبان فارسي - نوشته شده است(چند نمونه از آنها در پايان همين مطلب معرفي خواهد شد) و همايش هاي گوناگوني درباره آنها برگزار مي شود (بنگريد به اينجا)
/**/
درباره ربات هاي هوشمند چند سوال از منظر اخلاقي قابل طرح است: 1. آيا كارهاي اين ماشين ها را مي توان به خوب يا بد اخلاقي متصف كرد؟ 2. اگر اينها عملي انجام دهند كه از منظر اخلاقي نادرست باشد(مثلا به كسي آسيب رساندند يا اموال كسي را سرقت كردند) چه كسي قابل سرزنش است و اخلاقا بايد اين آسيب و ضرر را جبران نمايد؟ سازنده يا به كار گيرنده يا فرد ثالث؟ 3. آيا مسئله «استقلال عامل اخلاقي» براي اين ماشين ها صدق مي كند؟ آيا مي توان مدعي شد كه هوشمندي آنها موجب مي شود كه خوب و بد كارهاي شان به خودشان مربوط شود؟ 4. اگر خود اين ماشين ها را به سبب ميزان استقلال و هوشمندي كه دارند از نظر اخلاقي بتوانيم مقصر بدانيم، اين كار چه فايده اي دارد؟ چون قاعدتا نمي توانند آسيب وارده شده را جبران نمايند. پس چه كسي بايد اين كار را انجام دهد؟ آيا منافع آنها به اندازه اي هست كه بتوان از ضررهاي احتمالي شان چشم پوشي كرد؟
/**/
به نظر مي رسد قضاوت درباره اخلاقي بودن يا نبودن كار ماشين هاي هوشمند مبتني بر روشن شدن تكليف موارد زير است:
- آيا كار اخلاقي فقط براي «انسان ها» مطرح است و ديگر موجودات، از قبيل حيوانات يا ماشين هاي هوشمند، هر چند كارهايي بكنندكه مي توان آنها را «خوب يا بد» دانست، مانند نجات ده ها نفر از زير آوار زلزله، كارشان قابل اتصاف به خوب و بد اخلاقي نيست.
- آيا مي توان بين «عمل اخلاقي» و «عامل اخلاقي» تمايز قائل شد؟ به اين معنا كه بگوييم خوب و بد بودن درباره نفس عمل قابل طرح هست ولي درباره خود ربات ها نيست.
- ملاك (يا ملاك هاي) اخلاقي بودن يك كار چيست؟ آيا علاوه بر آگاهي و اختياري بودن، شرط يا شرط هاي ديگري هم براي اخلاقي بودن يك عمل لازم است يا خير.
- چه كسي بايد درباره اخلاقي بودن يا نبودن كار ديگران، مثلا ماشين هاي هوشمند، قضاوت كند. خود فاعل اخلاقي يا ديگران؟ اگر اختلاف پيش آمد چه بايد كرد؟
- هوشمند بودن ربات ها و ماشين هاي هوشمند به چه معنا است؟ ميزان آن چه اندازه است؟ اين هوشمندي چه اندازه به استقلال در تصميم گيري منجر مي شود؟ آيا همه حالات و موقعيت هاي احتمالي كه ماشين با آن مواجه مي شود از قبل براي او تعريف شده است؟
با توجه به موارد بالا مي توان گفت:
- براي اخلاقي بودن يك عمل، «آگاهانه و اختياري بودن» شرط لازم است. از اين رو اگر ميدان عملي كه تاكنون براي ربات ها و ماشين هاي هوشمند فراهم شده را بتوان مصداق آگاهي و اختياري بودن دانست، كارهاي آنها متصف به خوب و بد مي شود. ولي نكته اين است كه اولا اختيار و آگاهي اين ماشين ها مصنوعي و بر اساس برنامه هايي است كه ديگران (سازندگان آنها) برايشان تعريف كرده اند. لذا كارهاي آنها را بيشتر مي توان نوعي عكس العمل مكانيكي دانست كه بر اساس برنامه ريزي ديگران و با توجه به آزمون و خطا و تجربه به دست مي آيد، نه يك رفتار برخواسته از تمايلات قلبي و دروني. ثانيا كار ربات براي او هيچ هزينه اي ندارد. به عبارت ديگر، اخلاقي عمل كردن براي او نه مستلزم چشم پوشي از لذات و منافع است نه مي تواند مثلا به قصد كسب رضايت دروني يا رضايت خداوند يا حتي رسيدن به منافع مادي باشد.
- نمي توان «فقط» اختياري و آگاهانه بودن را ملاك فعل اخلاقي قرار داد. چرا كه بر اين اساس بايد بسياري از كارهاي انسان، مانند غذا خوردن و قدم زدن، را نيز اخلاقي محسوب كرد. بنابراين لازم است قيد / شرط / يا صفت ديگري را نيز براي اخلاقي بودن يك عمل در نظر بگيريم كه عبارت است از «قصد و نيت» عامل. يعني كار اخلاقي بايد با نيت خيرخواهانه و انگيزه نيك انجام پذيرد. حال اگر نيت و قصد را نيز در اخلاقي بودن سهيم بدانيم، كار ربات ها و ماشين هاي هوشمند را نمي توان از مصاديق كارهاي اخلاقي دانست؛ چرا كه در حد اطلاع بنده، دست كم در ماشين هايي كه تاكنون ساخته شده اند مسئله احساسات و عواطف دروني و داشتن نيت و قصد وجود ندارد.
- البته اگر قصد و انگيزه خير را هم در اخلاقي بودن موثر بدانيم ، كار تا اندازه اي دشوار مي شود چرا كه اولا فهم و احراز حسن نيت افراد كار آساني نيست و شايد در اين زمينه بتوان فقط به اعتراف خود فرد استناد كرد (كه البته در آن هم احتمال خلاف هست. چرا كه دست كم انسان ها مي توانند به دلائل مختلف، از جمله براي كسب منفعت يا دفع ضرر حتمي يا محتمل دروغ بگويند).
- باتوجه به موارد فوق، اگر قصد و نيت خيرخواهي را نيز در ايجاد عمل اخلاقي موثر بدانيم، كار اين ماشين ها را نمي توان اخلاقي دانست. چرا كه چنين امري براي آنها مقدور نيست. البته اگر در آینده ماشین هایی ساخته شوند که بتوانند قصد و نیت هم برای کارهای خود داشته باشند دراین صورت باید بحث حاضر مورد بررسی مجدد قرار گیرد.
- حال اگر كار خود ماشین ها را از مشمول حسن و قبح اخلاقي ندانيم، به نظر می رسد درباره سود و زيان كار آنها، هر کس به هر اندازه اي كه نقش داشته شايسته تحسين يا مستحق سرزنش است و از نظر اخلاقي (يا حقوقی) باید پاسخگو باشد و ضررهاي احتمالي را جبران نمايد.
- از منظر اخلاق اسلامي اگر بخواهيم به ماجرا نگاه كنيم به نظر مي رسد مي توان با بهره گيري اخلاقي از قواعدي چون «لاضرر و لاضرار في الاسلام» و با توجه به اين كه اموري چون آگاهي و اختيار از شرايط تكليف است و با توجه اين كه ماشين هاي هوشمند را از قبيل «شيء» و «كالا» يا «مبيع» بدانيم كه صاحب يا سازنده آن در قبال آن مسوول است، و همچنين با توجه به اين كه از ديدگاه اسلام متصف شدن به حسن و قبح اخلاقي فقط مربوط به انسان است مي توان چنين برداشت كرد كه كار ماشين هاي هوشمند در دايره اخلاق نمي گنجد و مسووليت اخلاقي كارهاي اين ماشين ها بر عهده صاحبان يا سازندگان آنها است. و اگر بر عهده اين دو ندانيم مي شود فرض هاي ديگري را مطرح كرد. مثل اين كه بگوييم ضرر و زيان هاي ناشي از كار اينها، دست كم در مواردي كه در اختيار نهادهاي عمومي يا دولت هستند، بايد از بيت المال جبران شود.
- كتاب «اخلاق ربات ها» Robot Ethics (Intelligent Robotics and Autonomous Agents series).(منبع)
- كتاب «اخلاق ربات ها: استلزامات اخلاقي و اجتماعي دانش ماشين هاي هوشمند» Robot Ethics: The Ethical and Social Implications of Robotics (Intelligent Robotics and Autonomous Agents series) هر دو با ويراستاري پاتريك لين، كيت آبني و جورج بكر (منبع)
- مقاله «اخلاق ربات ها»(انگليسي)(دانلود)
- مقاله «اگر رباتي بي اخلاقي كند» (فارسي)(در اينجا)
- مقاله «اخلاق ماشين هوشمند»، مجيد اكبري، نامه فرهنگ، ش 53، پاييز 1383. (دانلود)
- مقاله «تازه ترین یافته های اخلاق رایانه: از هوش مصنوعی دنیای مجازی تا واقعیت مجازی» نوشته جوزف میگا کیزا، ترجمه رضا بخشایش، مجله اطلاعات حکمت و معرفت، س6، ش 4(64)، مرداد 1390، ص 18 – 24.(اینجابخوانید)
با سلام