تقنية

المحاضرة الخامسة: نحن بحاجة لـ “نظام تشغيل أخلاقي”

We need a “moral operating system”

شيء من التقنية وشيء من الفلسفة، هذا ما يحاول “Damon Horowitz” التحدث عنه في هذه المحاضرة، وهو الذي قضى جزء غير يسير من حياته في مجال الذكاء الإصطناعي، وفي هذه المحاضرة يطرح على الجمهور سؤال في أحقية استخدام بيانات شخص ما للاستفادة منها بطريقة أو بأخرى، ويتطرق إلى موضوع الخصوصية ثم المسألة الأخلاقية في هذا الموضوع وكيف عبر عنها أرسطو وأفلاطون وغيرهم من الفلاسفة، ثم ما يجب علينا فعله في العالم التقني عندما نتعرض لمشاكل أو اختيارات أخلاقية مثل تلك.

Damon Horowitz reviews the enormous new powers that technology gives us: to know more — and more about each other — than ever before. Drawing the audience into a philosophical discussion, Horowitz invites us to pay new attention to the basic philosophy — the ethical principles — behind the burst of invention remaking our world. Where’s the moral operating system that allows us to make sense of it?

لتحميل هذه المحاضرة مترجمة للغة العربية:

(هنــــــــــا)

وفيما يلي تفريغ المحاضرة حسب توقيت الفيديو المرفق:

00:12

القدرة. تلك الكلمة التي تتبادر إلى الأذهان. نحن المطورون الجدد. إننا نملك الكثير من البيانات ، لذا فلدينا الكثير من القوة والسلطة. ما حجم السلطة التي نمتلكها ؟ مشهد من فلم : “Apocalypse Now” — فلمٌ رائع. علينا أن نُوصل بطلنا ، الكابتن ويلارد، إلى مصب نهر ننغ حتى يستطيع من مطاردة الكولونيل كورتز. والطريقة التي سنفعل بها ذلك هي من خلال الطيران به و إسقاطه بالمظلة. لذا فالمشهد: السماء ممتلئة بأسطول من الطائرات المروحية التي تحمله. وهناك تلك الأصوات المرتفعة ، وموسيقى الإثارة الخلفية ، كل تلك الموسيقى الصاخبة. ♫ دوم دا تا دا دوم ♫ ♫ دوم دا تا دا دوم ♫ ♫ دا تا دا دا ♫ هناك الكثير من القوة. تلك هي القوة التي أشعر بها في هذه القاعة. تلك هي القوة التي نمتلكهابسبب كل ما نملكه من بيانات.

00:57

لنأخذ مثالاً. ما الذي يمكننا فعله ببيانات شخصٍ واحدٍ فقط ؟ ما الذي يمكننا فعله ببيانات ذلك الشخص ؟ بإمكاني النظر إلى بياناته المالية. وأستطيع معرفة ما إذا كنت تسدد فواتيرك في موعدها. وأعرف ما إذا كنت مؤهلاً لقرض. أستطيع النظر إلى بياناتك الصحية ، وأستطيع معرفة ما إذا كان قلبك يخفق — وأن أعرف ما إذا كنت مؤهلاً لتأمينٍ طبي. أستطيع النظر إلى نمط إختيارك المواقع. وعندما تأتي إلى موقعي الإلكتروني ، أعرف بالضبط ما ستفعله مسبقاً ، لأنني راقبت زياراتك للملايين من المواقع من قبل. ويؤسفني أن أقول لك ، أنك مثل لاعب بوكر ، هناك دلالات على ذلك. أستطيع التنبؤ بما ستفعله بتحليل البيانات حتى قبل أن تفعل ذلك. أعرف ما تحبه ، أعرف من أنت. وكل ذلك حتى قبل أن أنظر إلى بريدك أو حتى إلى جوالك.

01:42

تلك هي الأشياء التي نستطيع عملها بالبيانات التي نملكها. ولكنني لست هنا اليوم للحديث عما نستطيع فعله. إنني هنا اليوم للحديث عما يجب أن نفعله. ماهو الشيء الصواب الذي يجب أن نفعله ؟

02:01

والاّن أرى القليل من النظرات الحائرة مثل ، “لماذ تسألنا ماهو الصواب الذي يجب أن نفعله؟ إننا فقط نصمم تلك الأشياء. والاّخرون يستخدمونها.” هذا صحيح. ولكن ذلك يذكرني. كما أعتقد إلى الحرب العالمية الثانية — بعضاً من عظماء التقنيين حينها ، بعضاً من علماء الفيزياء العظماء ، الذين كانوا يدرسون الإنشطار والإندماج النووي — العلوم النووية فقط. جمعنا هؤلاء الفيزيائيين مع بعضهم البعض في لوس ألاموسلنرى ما يمكن أن يصنعوه. ونريد الأشخاص الذين يصنعون التكنولوجيا أن يفكروا في ما يجب أن نفعله بالتكنولوجيا.

02:38

إذا مالذي يجب فعله ببيانات ذلك الشخص ؟ هل نسجلها ، ونجمعها ، لنجعل التصفح أفضل له ؟ وبالتالي نستطيع من كسب المال ؟ و لنحمي أنفسناإذا كان شخصا لايمكن الإستفادة منه ؟ أم علينا أن نحترم خصوصيته ، نحفظ له كرامته ونتركه وشأنه ؟ أيهما هو الصواب ؟ كيف نستطيع معرفة ذلك ؟

03:04

أعرف : Crowd Source “استخدام مجموعة كبيرة من الخبراء لحل مشكلة”. ولتحفيز المتواجدين ، لنبدأ بسؤال بسيط — شيء أعتقد الكثير من المتواجدين هنا لديه رأي فيه: الاّي فون iPhone مقابل الأندرويد Android لنرفع الأيادي بالموافقة — اّي فون. أوه ها. أندرويد. كنت أعتقد مع بعض من الناس الأذكياء لن نكون مثل المعجبين فقط بالهواتف الأنيقة. (ضحك) السؤال التالي ، أكثر صعوبة نوعاً ما. هل ينبغي علينا أن نجمع كل بيانات ذلك الشخص لجعل من تجربته أفضل ونحمي أنفسنا في حال كان غير مفيدٍ لنا ؟ أم يجب أن نتركه وشأنه ؟ نجمع بياناته. نتركه وشأنه. إنك بأمان. هذا جيد. (ضحك) حسنا ، السؤال الأخير — سؤال أصعب — عند محاولة تقييم عما يجب فعله في هذه الحالة ، هل ينبغي علينا أن نستخدم فلسفة كِنت في الأخلاق المهنية ، أم نستخدم نظرية “ميل” في أن الغاية تبرر الوسيلة ؟ كِنت. ميل. ليس الكثير من الأصوات. (ضحك)نعم ، هذه نتيجةٌ مرعبة. مرعبة ، لأن لدينا اّراءٌ قويةٌ عن أجهزتنا المحمولة أكثر من اّراءنا عن الإطار الأخلاقي الذي ينبغي أن نستخدمه لإتخاذ قراراتنا.

04:41

كيف لنا أن نعرف ما يجب القيام به بكل السلطة التي نملكها إذا لم يكن لدينا إطارا أخلاقيا ؟ نحن نعرف الكثير عن أنظمة تشغيل الهواتف المحمولة ، ولكن ما نحتاج إليه بالفعل هو نظام تشغيلٍ أخلاقي. فما هو نظام التشغيل الأخلاقي ؟ نحن جميعنا نعرف الصواب والخطأ ، نعم. تشعر بالفخر عندما تفعل شيئاً صائباً ، و تشعر بالضيق عندما تفعل شيئا خاطئا. أبوانا يعلماننا أن : الثناء مع الفعل الصائب ، والتأنيب مع الفعل الخاطئ. ولكن كيف يمكننا معرفة ما هو الصواب و ماهو الخطأ ؟ ويومياً ، لدينا أساليبنا التي نستخدمها. ربما نتبع حدسنا فقط. وربما نقوم بالتصويت — نجمع اّراء الناس. أو ربما نقوم بالمجازفة — أو نسأل الإدارة القانونية ، ونرى ما يقولون. في عبارة أخرى ، إنها نوعٌ من العشوائية ، نوعٌ من القرارات الوقتية ، كيف يمكننا معرفة ما يجب علينا القيام به. أو ربما ، لنقف بأقدامٍ راسخة ، ما نريده حقا هو إطار أخلاقي من شأنه أن يساعدنا في ذلك ،إطارٌ من شأنه أن يبين لنا ما هو الفعل الصواب والفعل الخطأ في المقام الأول ، وكيف لنا أن نعرف كيف نتصرف في موقفٍ ما.

05:43

لذلك دعونا نتفق على إطارٍ أخلاقي. نحن شعب الأرقام ، الذين يعيشون من خلال الأرقام. كيف يمكننا استخدام الأرقام كأساس لوضع إطار أخلاقي ؟ إنني أعرف الرجل الذي قام بفعل ذلك بالضبط ، رجلٌ عبقري — وهو ميتٌ منذ 2,500 سنة. أفلاطون ، بالفعل. هل تذكرونه ؟ — فيلسوفٌ قديم ؟ ربما كنتم نائمون خلال ذلك الدرس. و أفلاطون ، كان لديه الكثير من المخاوف نفسها التي لدينا. وكان يشعر بالقلق بشأن ماهو الصواب والخطأ. أراد أن يعرف ما هو العدل. ولكنه كان يشعر بالقلق من أن كل ما يبدو أننا نفعله هو تداول الآراء حول هذا الموضوع. إنه يقول أن فعلاً ما هو العدل. وهي تقول أن فعلاً آخر هو العدل. إنه مقنعٌ نوعاً ما عندما يتحدث وهي مقنعةٌ أيضاً عندما تتحدث. إنني فقط أتجه ذهابا وإيابا ، وأنا لا أصل إلى أي مكان. إنني لا أريد اّراءً ، بل أريد المعرفة. أريد أن أعرف الحقيقة عن العدالة — مثل ما لدينا حقائق في الرياضيات.في الرياضيات ، نحن نعلم الحقائق المطلقة. خذ رقماً ما ، أي رقم — إثنين. رقمي المفضل. إنني أحب هذا الرقم. هناك حقائق مطلقة عن الرقم إثنين. إذا كان لديك شيئين اثنين ، وأضفت اثنين آخرين ، تحصل على أربعة. وهذه حقيقةٌ مطلقة بغض النظر عن ماهية الشيء الذي تتحدث عنه.انها لحقيقة مطلقة عن شكل من اثنين ، الخلاصة المطلقة. عندما يكون لديك اثنين من أي شيء — عينان ، أذنان ، وحتى الأنوف ، أي بروز من اثنين — هؤلاء يتشاركون في تشكيل الإثنين. يتشاركون جميعاً في الحقيقة المطلقة للرقم إثنين. لديهم جميعهم خاصية المُثنى. وبالتالي ، انها ليست مسألة رأي.

07:10

ماذا لو فكر أفلاطون ، أن الأخلاق كانت كالرياضيات ؟ ماذا لو كان هناك شكلٌ متكاملٌ للعدالة ؟ ماذا لو كان هناك حقائق مطلقة للعدالة ،وبإمكانك بمجرد إلقاء نظرة حول هذا العالم ورأيت الأشياء التي تساهم ، في هذا الشكل من العدالة ؟ عندئذٍ ستعرف ما هو بالفعل حقيقةٌ مطلقة وما هو ليس كذلك. ولن يكون ذلك مجرد رأي فقط أو مناقشات فقط. هذه رؤية مذهلة. أعني ، أن نفكر في ذلك. كم سيكون ذلك نبيلاً.و طموحاً. هذا الطموح بقدر ما نحن عليه. انه يريد ان يحل الأخلاق. انه يريد الحقائق المطلقة. إذا فكرنا بتلك الطريقة ، فإن لديك إطار أفلاطون الأخلاقي.

07:51

أما إذا كنت لا تفكر بتلك الطريقة ، إذاً ، لديك الكثير من الرفقاء في تاريخ الفلسفة الغربية ، لأن الفكرة المنهجية — كما تعلمون ، انتقدها الناس.ولا سيما أرسطو لم يكن يستصيغ الفكرة. إعتقد انها غير عملية. فقد قال أرسطو : “علينا فقط التحري عن الدقة في كل موضوع بقدر ما يسمح ذلك الموضوع “. إعتقد أرسطو أن الأخلاق من غير الممكن أن تكون مثل الرياضيات. إعتقد أن الأخلاق عبارة عن مجموعة من القرارات نتخذهابين فترة وأخرى باستخدام حكمتنا للعثور على المسار الصحيح. إذا كنت تتفق مع ذلك فإن أفلاطون ليس الرجل المناسب لك. ولكن لا تستسلم.ربما هناك طريقة أخرى لإستخدام الأرقام كإطار أخلاقي أساسي.

08:30

لنجرب التالي : ماذا لو أمكنك في أي وقت أن تحسب المعادلة الأخلاقية ، أنظر إلى الخيارات التي لديك ، واحسب المعادلة لتعرف أي القرارات أفضل وبالتالي ماذا ستفعل ؟ هل يبدو هذا مألوفاً ؟ هذا هو الإطار الأخلاقي النفعي. وكان جون ستيوارت ميل داعيةً كبيراً لهذا — رجلٌ لطيفٌ بالرغم — من أنه مات منذ 200 سنة. ذلك هو أساس النفعية — أنا متأكد من أنكم على دراية به على الأقل به. الاشخاص الثلاثة الذين صوتوا لمصلحة ميل يعرفون ذلك من قبل. ولكن ها هي الطريقة التي تعمل بها النفعية. ماذا لو أن الأخلاق ، أو ماذا لو أن ما يجعل من تصرفٍ ما أخلاقي ، هي مجرد ما إذا كان ذلك التصرف يشعرك بالسعادة ويقلل من الألم؟ إنه شيءٌ محسوس لأي تصرف. وليست كشيئٍ ذا علاقة بالمعنى التجريدي. انها مجرد نتيجة تصرفٍ ما. وما عليك إلا بالنظر إلى النتائج وترى ما اذا كان ذلك ، عموما ، لشيءٍ جيد أم لشيءٍ أسوء. سيكون ذلك أمراً بسيطاً. عندئذٍ سنعرف ما سنفعله.

09:19

دعونا نأخذ مثالا على ذلك. لنفترض أنني أتدخل و أقول : “إنني سأأخذ منك هاتفك المحمول”. ليس لأنه رن سابقاً ، ولكنني ساّخذ ذلك الهاتف لأنني حسبت عمليةً حسابيةً صغيرة. و اعتقد ان ذلك الرجل يبدو مشتبهاً به. ماذا لو انه بدا يرسل رسائل قصيرة إلى مخبأ بن لادن — أو من تولى المسؤولية بعد بن لادن أياً كان — و أنه في الواقع إرهابي ، من خليةٍ نائمة. سأتمكن من معرفة ذلك ، وعندما أفعل ذلك ، سأكون قادراً على منع إحداث ضررٍ كبير قد يتسبب به. تحتوي تلك الفكرة على أدواتٍ جيدة لمنع ذلك الضرر. وبالمقارنة مع الضرر البسيط الذي ستسببه — لأن الوضع سيكون محرجاً عندما أتفحص هاتفه المحمول وأكتشف أن لديه إدمانٌ على لعبة Farmville وكل تلك التفاصيل التي ظهرت بمجرد النظر إلى هاتفه. إذا كنت تتفق مع ذلك ، فهذا هو خيار إطار النفعية الأخلاقي.

10:07

ولكن ربما لا تتفق أيضاً مع هذه الطريقة. ربما تفكر في أن ذلك هاتفه. و من الخطأ أن نأخذ منه هاتفه ، لأنه إنسان و لديه حقوق و كرامة ، وليس لنا الحق في التدخل في خصوصياته. لديه الحق في خصوصياته. بغض النظر عن المعادلات الحسابية. هناك أشياء خاطئة في جوهرها — مثل أن الكذب خطأ ، مثلما أن تعذيب طفل بريء يعتبر خطأً. “كانت” كانت لديه أفكار جيدة حول هذا الموضوع ، وشرحها بطريقةٍ أفضل مني. إذ قال انه ينبغي علينا أن نستخدم منطقنا لمعرفة القوانين التي سنبني عليها تصرفاتنا السلوكية. ومن ثم من واجبنا أن نتبع تلك القوانين. انها ليست مسألة حسابية.

10:48

لذلك دعونا تتوقف. إننا الاّن في وسط كل تلك النظريات ، في خضم ذلك النقاش الفلسفي. ولا نزال كذلك منذ اّلاف السنين ، لأنها أسئلةٌ من الصعب الإجابة عليها ، ولدي فقط 15 دقيقة. لذلك لنختصر النقاش. كيف لنا أن نتخذ قراراتنا ؟ هل نتبع أفلاطون ؟ أم أرسطو ؟ أم كانت ؟ أم ميل ؟ ماذا علينا أن نفعل ؟ ما هي الإجابة ؟ ماهي المعادلة التي نستطيع استخدامها في أي وضع لنقرر ماذا سنفعل ، فيما إذا كنا سنستخدم بيانات ذلك الشخص أم لا ؟ ماهي المعادلة ؟ ليس هناك من معادلة. ليس هناك من جوابٍ بسيط.

11:28

الأخلاقيات شيءٌ معقد. الأخلاقيات تتطلب التفكير. وهذا شيءٌ غير مريح. أعرف ، لقد قضيت جزءً كبيراً من مهنتي في مجال الذكاء الإصطناعي ، في محاولةٍ لبناء اّلاتٍ تستطيع التفكير عنا ، وقد تعطينا إجاباتٍ على الأسئلة. ولكنها لاتستطيع ذلك. من غير الممكن أن نقلد طريقة تفكير الإنسانووضعها في الالات. نحن من علينا أن نجد الأجوبة بأنفسنا. ولحسن الحظ ، أننا لسنا اّلات ، ونستطيع فعل ذلك. ليس لأننا نسطيع التفكير في ذلك ،بل لأنه يجب علينا فعل ذلك. هانا أرندت قالت : “الحقيقة المرة هي أن أغلب الأفعال الشريرة في العالم لم تكن من قبل أناس إختاروا أن يكونوا شريرين. بل بسبب أنهم لم يفكروا.” وهذا ما أطلقت عليه اسم ” تفاهة الشرير” و ردي على ذلك أنه علينا أن نطالب بالتفكير من كل شخصٍ عاقل.

12:26

لذا فلنبدأ بذلك. لنبدأ بالتفكير. في الواقع ، لنبدأ الآن. على كل فردٍ في هذه القاعة القيام بهذا: فكر في اّخر مرة كان عليك اتخاذ قرارٍ وكنت قلقاً فيما إذا كان قرارك هو القرار الصائب أخلاقياً ، حيث كنت متردداً ، ” أيهما علي أن أفعل ؟ ” حاول تذكر ذلك. واعكس ذلك على القرار الذي اتخذته.وفكر : ” كيف توصلت إلى ذلك القرار ؟ ” كيف فعلت ذلك ؟ هل تبعت حدسك ؟ هل استشرت أحداً ؟ أم استشرت قانونياً ؟ والان وقد أصبح لدينا الان خيارتٍ أخرى. ” هل قيمت ذلك بشعورك بالسعادة كما كان ليفعل ميل ؟ أم استخدمت المنطق لتعرف ماهي الحقيقة المطلقة ؟” فكر في ذلك. بالفعل حاول استحضار ذلك. هذا مهمٌ جداً. مهمٌ للغاية لدرجة أننا سنقضي 30 ثانية من وقت محادثة تيد القيم صامتين لنفكر في ذلك الموقف. هل أنتم مستعدون ؟ هيا بنا.

13:30

توقفوا. عملٌ جيد. ما فعلتموه للتو ، هي الخطوة الأولى نحو تولي المسؤولية فيما يجب أن نفعله مع كل ما لدينا من سلطة.

13:42

والان الخطوة التالية — جربوا هذا. حاولوا البحث عن صديق واشرحوا له كيف قمتم باتخاذ ذلك القرار. ليس الان.انتظروا حتى ننتهي من الحديث. لنفعل ذلك خلال تناول الغداء. ولا تبحثوا عن صديق آخر تقني أيضاً ؛ حاولوا البحث عن أشخاص مختلفين. ابحثوا عن فنان أو كاتب –أو ، لا سمح الله ، ابحثوا عن فيلسوف وتحدثوا معهم. في الواقع ، حاولوا العثور على شخصٍ ذو علاقةٍ بالعلوم الإنسانية. لماذا ؟ لأنهم يفكرون بالمشاكل بطريقةٍ مختلفةٍ عما نفعله نحن التقنيون. قبل عدة أيامٍ فقط ، ليس بعيداً من هنا ، كان هناك المئات من الأشخاص مجتمعين مع بعضهمكانوا أشخاصاً تقنيين و اّخرون من العلوم الإنسانية في اجتماع Biblio Tech الضخم واجتمعوا مع بعضهم البعض لأن التقنيون أرادوا أن يتعلموا كيف سيبدوا الأمر لو أنهم فكروا من منطلقٍ إنساني. كان هناك أشخاصٌ من شركة Google يتحدثون عن أشخاص يحاضرون في الأدب المقارن. إننا نفكر في أهمية المسرح الفرنسي في القرن السابع عشر — وكيف ذلك يؤثر في رأس المال الإستثماري ؟ حسناً إن هذا مثير للاهتمام. هذه طريقةٌ مختلفةٌ في التفكير. وعندما تفكرون بهذه الطريقة ، تصبحون أكثر إدراكاً للإعتبارات الإنسانية ، التي تعتبر مصيريةً في إتخاذ قراراتٍ أكثر أخلاقيةً.

14:46

لذا تخيلوا ذلك الان إذا قابلت صديقاً لك يعمل في الموسيقى. وأخبرته بما نتحدث عنه الان ، عن الثورة المعلوماتية التي نمر بها — وربما أيضاً عن بعض الدندنة التي أحدثناها. ♫ دوم تا دا دا دوم دوم تا دا دا دوم ♫ حسنا ، سيوقفك صديقك الموسيقي فوراً ويقول : “هل تعلم ، إن موضوع الموسيقى هذا والخاص بموسيقى الثورة المعلوماتية ، إنها عبارة عن أوبرا ، إنها أوبرا “واغنر”. وهي مبنيةٌ على أسطورة طائر النورس تعبر عن قتالٍ بين الاّلهة ومخلوقاتٍ غريبة من أجل بعض المجوهرات السحرية “. هذا مثيرٌ للإهتمام. أصبحت الاّن أوبرا جميلة. وتأثرنا جميعنا بتلك الأوبرا. تأثرنا بها لأنها ترمز للقتال بين الخير والشر ، بين الصواب والخطأ. ونحن نهتم لمعرفة ماهو الصواب وماهو الخطأ. نحن نهتم لأحداث تلك الأوبرا. اننا نهتم لما يحدث في فيلم “Apocalypse Now”. ونحن بالتأكيد نهتم أيضاً لما يحدث مع تطور تقنياتنا.

15:43

نملك الكثير من السلطة اليوم ، ويعود إلينا ما سنفعله بتلك السلطة. وهذا خبرٌ جيد. نحن من يكتب هذه الأوبرا. هذا فيلمٌ سينمائيٌ من صنعنا. وعلينا معرفة ماسيحدث بهذه التقنيات. ونحدد ما ستؤول إليه الأمور.

16:01

شكراً لكم.

16:03

(تصفيق)

00:12

القدرة. تلك الكلمة التي تتبادر إلى الأذهان. نحن المطورون الجدد. إننا نملك الكثير من البيانات ، لذا فلدينا الكثير من القوة والسلطة. ما حجم السلطة التي نمتلكها ؟ مشهد من فلم : “Apocalypse Now” — فلمٌ رائع. علينا أن نُوصل بطلنا ، الكابتن ويلارد، إلى مصب نهر ننغ حتى يستطيع من مطاردة الكولونيل كورتز. والطريقة التي سنفعل بها ذلك هي من خلال الطيران به و إسقاطه بالمظلة. لذا فالمشهد: السماء ممتلئة بأسطول من الطائرات المروحية التي تحمله. وهناك تلك الأصوات المرتفعة ، وموسيقى الإثارة الخلفية ، كل تلك الموسيقى الصاخبة. ♫ دوم دا تا دا دوم ♫ ♫ دوم دا تا دا دوم ♫ ♫ دا تا دا دا ♫ هناك الكثير من القوة. تلك هي القوة التي أشعر بها في هذه القاعة. تلك هي القوة التي نمتلكهابسبب كل ما نملكه من بيانات.

00:57

لنأخذ مثالاً. ما الذي يمكننا فعله ببيانات شخصٍ واحدٍ فقط ؟ ما الذي يمكننا فعله ببيانات ذلك الشخص ؟ بإمكاني النظر إلى بياناته المالية. وأستطيع معرفة ما إذا كنت تسدد فواتيرك في موعدها. وأعرف ما إذا كنت مؤهلاً لقرض. أستطيع النظر إلى بياناتك الصحية ، وأستطيع معرفة ما إذا كان قلبك يخفق — وأن أعرف ما إذا كنت مؤهلاً لتأمينٍ طبي. أستطيع النظر إلى نمط إختيارك المواقع. وعندما تأتي إلى موقعي الإلكتروني ، أعرف بالضبط ما ستفعله مسبقاً ، لأنني راقبت زياراتك للملايين من المواقع من قبل. ويؤسفني أن أقول لك ، أنك مثل لاعب بوكر ، هناك دلالات على ذلك. أستطيع التنبؤ بما ستفعله بتحليل البيانات حتى قبل أن تفعل ذلك. أعرف ما تحبه ، أعرف من أنت. وكل ذلك حتى قبل أن أنظر إلى بريدك أو حتى إلى جوالك.

01:42

تلك هي الأشياء التي نستطيع عملها بالبيانات التي نملكها. ولكنني لست هنا اليوم للحديث عما نستطيع فعله. إنني هنا اليوم للحديث عما يجب أن نفعله. ماهو الشيء الصواب الذي يجب أن نفعله ؟

02:01

والاّن أرى القليل من النظرات الحائرة مثل ، “لماذ تسألنا ماهو الصواب الذي يجب أن نفعله؟ إننا فقط نصمم تلك الأشياء. والاّخرون يستخدمونها.” هذا صحيح. ولكن ذلك يذكرني. كما أعتقد إلى الحرب العالمية الثانية — بعضاً من عظماء التقنيين حينها ، بعضاً من علماء الفيزياء العظماء ، الذين كانوا يدرسون الإنشطار والإندماج النووي — العلوم النووية فقط. جمعنا هؤلاء الفيزيائيين مع بعضهم البعض في لوس ألاموسلنرى ما يمكن أن يصنعوه. ونريد الأشخاص الذين يصنعون التكنولوجيا أن يفكروا في ما يجب أن نفعله بالتكنولوجيا.

02:38

إذا مالذي يجب فعله ببيانات ذلك الشخص ؟ هل نسجلها ، ونجمعها ، لنجعل التصفح أفضل له ؟ وبالتالي نستطيع من كسب المال ؟ و لنحمي أنفسناإذا كان شخصا لايمكن الإستفادة منه ؟ أم علينا أن نحترم خصوصيته ، نحفظ له كرامته ونتركه وشأنه ؟ أيهما هو الصواب ؟ كيف نستطيع معرفة ذلك ؟

03:04

أعرف : Crowd Source “استخدام مجموعة كبيرة من الخبراء لحل مشكلة”. ولتحفيز المتواجدين ، لنبدأ بسؤال بسيط — شيء أعتقد الكثير من المتواجدين هنا لديه رأي فيه: الاّي فون iPhone مقابل الأندرويد Android لنرفع الأيادي بالموافقة — اّي فون. أوه ها. أندرويد. كنت أعتقد مع بعض من الناس الأذكياء لن نكون مثل المعجبين فقط بالهواتف الأنيقة. (ضحك) السؤال التالي ، أكثر صعوبة نوعاً ما. هل ينبغي علينا أن نجمع كل بيانات ذلك الشخص لجعل من تجربته أفضل ونحمي أنفسنا في حال كان غير مفيدٍ لنا ؟ أم يجب أن نتركه وشأنه ؟ نجمع بياناته. نتركه وشأنه. إنك بأمان. هذا جيد. (ضحك) حسنا ، السؤال الأخير — سؤال أصعب — عند محاولة تقييم عما يجب فعله في هذه الحالة ، هل ينبغي علينا أن نستخدم فلسفة كِنت في الأخلاق المهنية ، أم نستخدم نظرية “ميل” في أن الغاية تبرر الوسيلة ؟ كِنت. ميل. ليس الكثير من الأصوات. (ضحك)نعم ، هذه نتيجةٌ مرعبة. مرعبة ، لأن لدينا اّراءٌ قويةٌ عن أجهزتنا المحمولة أكثر من اّراءنا عن الإطار الأخلاقي الذي ينبغي أن نستخدمه لإتخاذ قراراتنا.

04:41

كيف لنا أن نعرف ما يجب القيام به بكل السلطة التي نملكها إذا لم يكن لدينا إطارا أخلاقيا ؟ نحن نعرف الكثير عن أنظمة تشغيل الهواتف المحمولة ، ولكن ما نحتاج إليه بالفعل هو نظام تشغيلٍ أخلاقي. فما هو نظام التشغيل الأخلاقي ؟ نحن جميعنا نعرف الصواب والخطأ ، نعم. تشعر بالفخر عندما تفعل شيئاً صائباً ، و تشعر بالضيق عندما تفعل شيئا خاطئا. أبوانا يعلماننا أن : الثناء مع الفعل الصائب ، والتأنيب مع الفعل الخاطئ. ولكن كيف يمكننا معرفة ما هو الصواب و ماهو الخطأ ؟ ويومياً ، لدينا أساليبنا التي نستخدمها. ربما نتبع حدسنا فقط. وربما نقوم بالتصويت — نجمع اّراء الناس. أو ربما نقوم بالمجازفة — أو نسأل الإدارة القانونية ، ونرى ما يقولون. في عبارة أخرى ، إنها نوعٌ من العشوائية ، نوعٌ من القرارات الوقتية ، كيف يمكننا معرفة ما يجب علينا القيام به. أو ربما ، لنقف بأقدامٍ راسخة ، ما نريده حقا هو إطار أخلاقي من شأنه أن يساعدنا في ذلك ،إطارٌ من شأنه أن يبين لنا ما هو الفعل الصواب والفعل الخطأ في المقام الأول ، وكيف لنا أن نعرف كيف نتصرف في موقفٍ ما.

05:43

لذلك دعونا نتفق على إطارٍ أخلاقي. نحن شعب الأرقام ، الذين يعيشون من خلال الأرقام. كيف يمكننا استخدام الأرقام كأساس لوضع إطار أخلاقي ؟ إنني أعرف الرجل الذي قام بفعل ذلك بالضبط ، رجلٌ عبقري — وهو ميتٌ منذ 2,500 سنة. أفلاطون ، بالفعل. هل تذكرونه ؟ — فيلسوفٌ قديم ؟ ربما كنتم نائمون خلال ذلك الدرس. و أفلاطون ، كان لديه الكثير من المخاوف نفسها التي لدينا. وكان يشعر بالقلق بشأن ماهو الصواب والخطأ. أراد أن يعرف ما هو العدل. ولكنه كان يشعر بالقلق من أن كل ما يبدو أننا نفعله هو تداول الآراء حول هذا الموضوع. إنه يقول أن فعلاً ما هو العدل. وهي تقول أن فعلاً آخر هو العدل. إنه مقنعٌ نوعاً ما عندما يتحدث وهي مقنعةٌ أيضاً عندما تتحدث. إنني فقط أتجه ذهابا وإيابا ، وأنا لا أصل إلى أي مكان. إنني لا أريد اّراءً ، بل أريد المعرفة. أريد أن أعرف الحقيقة عن العدالة — مثل ما لدينا حقائق في الرياضيات.في الرياضيات ، نحن نعلم الحقائق المطلقة. خذ رقماً ما ، أي رقم — إثنين. رقمي المفضل. إنني أحب هذا الرقم. هناك حقائق مطلقة عن الرقم إثنين. إذا كان لديك شيئين اثنين ، وأضفت اثنين آخرين ، تحصل على أربعة. وهذه حقيقةٌ مطلقة بغض النظر عن ماهية الشيء الذي تتحدث عنه.انها لحقيقة مطلقة عن شكل من اثنين ، الخلاصة المطلقة. عندما يكون لديك اثنين من أي شيء — عينان ، أذنان ، وحتى الأنوف ، أي بروز من اثنين — هؤلاء يتشاركون في تشكيل الإثنين. يتشاركون جميعاً في الحقيقة المطلقة للرقم إثنين. لديهم جميعهم خاصية المُثنى. وبالتالي ، انها ليست مسألة رأي.

07:10

ماذا لو فكر أفلاطون ، أن الأخلاق كانت كالرياضيات ؟ ماذا لو كان هناك شكلٌ متكاملٌ للعدالة ؟ ماذا لو كان هناك حقائق مطلقة للعدالة ،وبإمكانك بمجرد إلقاء نظرة حول هذا العالم ورأيت الأشياء التي تساهم ، في هذا الشكل من العدالة ؟ عندئذٍ ستعرف ما هو بالفعل حقيقةٌ مطلقة وما هو ليس كذلك. ولن يكون ذلك مجرد رأي فقط أو مناقشات فقط. هذه رؤية مذهلة. أعني ، أن نفكر في ذلك. كم سيكون ذلك نبيلاً.و طموحاً. هذا الطموح بقدر ما نحن عليه. انه يريد ان يحل الأخلاق. انه يريد الحقائق المطلقة. إذا فكرنا بتلك الطريقة ، فإن لديك إطار أفلاطون الأخلاقي.

07:51

أما إذا كنت لا تفكر بتلك الطريقة ، إذاً ، لديك الكثير من الرفقاء في تاريخ الفلسفة الغربية ، لأن الفكرة المنهجية — كما تعلمون ، انتقدها الناس.ولا سيما أرسطو لم يكن يستصيغ الفكرة. إعتقد انها غير عملية. فقد قال أرسطو : “علينا فقط التحري عن الدقة في كل موضوع بقدر ما يسمح ذلك الموضوع “. إعتقد أرسطو أن الأخلاق من غير الممكن أن تكون مثل الرياضيات. إعتقد أن الأخلاق عبارة عن مجموعة من القرارات نتخذهابين فترة وأخرى باستخدام حكمتنا للعثور على المسار الصحيح. إذا كنت تتفق مع ذلك فإن أفلاطون ليس الرجل المناسب لك. ولكن لا تستسلم.ربما هناك طريقة أخرى لإستخدام الأرقام كإطار أخلاقي أساسي.

08:30

لنجرب التالي : ماذا لو أمكنك في أي وقت أن تحسب المعادلة الأخلاقية ، أنظر إلى الخيارات التي لديك ، واحسب المعادلة لتعرف أي القرارات أفضل وبالتالي ماذا ستفعل ؟ هل يبدو هذا مألوفاً ؟ هذا هو الإطار الأخلاقي النفعي. وكان جون ستيوارت ميل داعيةً كبيراً لهذا — رجلٌ لطيفٌ بالرغم — من أنه مات منذ 200 سنة. ذلك هو أساس النفعية — أنا متأكد من أنكم على دراية به على الأقل به. الاشخاص الثلاثة الذين صوتوا لمصلحة ميل يعرفون ذلك من قبل. ولكن ها هي الطريقة التي تعمل بها النفعية. ماذا لو أن الأخلاق ، أو ماذا لو أن ما يجعل من تصرفٍ ما أخلاقي ، هي مجرد ما إذا كان ذلك التصرف يشعرك بالسعادة ويقلل من الألم؟ إنه شيءٌ محسوس لأي تصرف. وليست كشيئٍ ذا علاقة بالمعنى التجريدي. انها مجرد نتيجة تصرفٍ ما. وما عليك إلا بالنظر إلى النتائج وترى ما اذا كان ذلك ، عموما ، لشيءٍ جيد أم لشيءٍ أسوء. سيكون ذلك أمراً بسيطاً. عندئذٍ سنعرف ما سنفعله.

09:19

دعونا نأخذ مثالا على ذلك. لنفترض أنني أتدخل و أقول : “إنني سأأخذ منك هاتفك المحمول”. ليس لأنه رن سابقاً ، ولكنني ساّخذ ذلك الهاتف لأنني حسبت عمليةً حسابيةً صغيرة. و اعتقد ان ذلك الرجل يبدو مشتبهاً به. ماذا لو انه بدا يرسل رسائل قصيرة إلى مخبأ بن لادن — أو من تولى المسؤولية بعد بن لادن أياً كان — و أنه في الواقع إرهابي ، من خليةٍ نائمة. سأتمكن من معرفة ذلك ، وعندما أفعل ذلك ، سأكون قادراً على منع إحداث ضررٍ كبير قد يتسبب به. تحتوي تلك الفكرة على أدواتٍ جيدة لمنع ذلك الضرر. وبالمقارنة مع الضرر البسيط الذي ستسببه — لأن الوضع سيكون محرجاً عندما أتفحص هاتفه المحمول وأكتشف أن لديه إدمانٌ على لعبة Farmville وكل تلك التفاصيل التي ظهرت بمجرد النظر إلى هاتفه. إذا كنت تتفق مع ذلك ، فهذا هو خيار إطار النفعية الأخلاقي.

10:07

ولكن ربما لا تتفق أيضاً مع هذه الطريقة. ربما تفكر في أن ذلك هاتفه. و من الخطأ أن نأخذ منه هاتفه ، لأنه إنسان و لديه حقوق و كرامة ، وليس لنا الحق في التدخل في خصوصياته. لديه الحق في خصوصياته. بغض النظر عن المعادلات الحسابية. هناك أشياء خاطئة في جوهرها — مثل أن الكذب خطأ ، مثلما أن تعذيب طفل بريء يعتبر خطأً. “كانت” كانت لديه أفكار جيدة حول هذا الموضوع ، وشرحها بطريقةٍ أفضل مني. إذ قال انه ينبغي علينا أن نستخدم منطقنا لمعرفة القوانين التي سنبني عليها تصرفاتنا السلوكية. ومن ثم من واجبنا أن نتبع تلك القوانين. انها ليست مسألة حسابية.

10:48

لذلك دعونا تتوقف. إننا الاّن في وسط كل تلك النظريات ، في خضم ذلك النقاش الفلسفي. ولا نزال كذلك منذ اّلاف السنين ، لأنها أسئلةٌ من الصعب الإجابة عليها ، ولدي فقط 15 دقيقة. لذلك لنختصر النقاش. كيف لنا أن نتخذ قراراتنا ؟ هل نتبع أفلاطون ؟ أم أرسطو ؟ أم كانت ؟ أم ميل ؟ ماذا علينا أن نفعل ؟ ما هي الإجابة ؟ ماهي المعادلة التي نستطيع استخدامها في أي وضع لنقرر ماذا سنفعل ، فيما إذا كنا سنستخدم بيانات ذلك الشخص أم لا ؟ ماهي المعادلة ؟ ليس هناك من معادلة. ليس هناك من جوابٍ بسيط.

11:28

الأخلاقيات شيءٌ معقد. الأخلاقيات تتطلب التفكير. وهذا شيءٌ غير مريح. أعرف ، لقد قضيت جزءً كبيراً من مهنتي في مجال الذكاء الإصطناعي ، في محاولةٍ لبناء اّلاتٍ تستطيع التفكير عنا ، وقد تعطينا إجاباتٍ على الأسئلة. ولكنها لاتستطيع ذلك. من غير الممكن أن نقلد طريقة تفكير الإنسانووضعها في الالات. نحن من علينا أن نجد الأجوبة بأنفسنا. ولحسن الحظ ، أننا لسنا اّلات ، ونستطيع فعل ذلك. ليس لأننا نسطيع التفكير في ذلك ،بل لأنه يجب علينا فعل ذلك. هانا أرندت قالت : “الحقيقة المرة هي أن أغلب الأفعال الشريرة في العالم لم تكن من قبل أناس إختاروا أن يكونوا شريرين. بل بسبب أنهم لم يفكروا.” وهذا ما أطلقت عليه اسم ” تفاهة الشرير” و ردي على ذلك أنه علينا أن نطالب بالتفكير من كل شخصٍ عاقل.

12:26

لذا فلنبدأ بذلك. لنبدأ بالتفكير. في الواقع ، لنبدأ الآن. على كل فردٍ في هذه القاعة القيام بهذا: فكر في اّخر مرة كان عليك اتخاذ قرارٍ وكنت قلقاً فيما إذا كان قرارك هو القرار الصائب أخلاقياً ، حيث كنت متردداً ، ” أيهما علي أن أفعل ؟ ” حاول تذكر ذلك. واعكس ذلك على القرار الذي اتخذته.وفكر : ” كيف توصلت إلى ذلك القرار ؟ ” كيف فعلت ذلك ؟ هل تبعت حدسك ؟ هل استشرت أحداً ؟ أم استشرت قانونياً ؟ والان وقد أصبح لدينا الان خيارتٍ أخرى. ” هل قيمت ذلك بشعورك بالسعادة كما كان ليفعل ميل ؟ أم استخدمت المنطق لتعرف ماهي الحقيقة المطلقة ؟” فكر في ذلك. بالفعل حاول استحضار ذلك. هذا مهمٌ جداً. مهمٌ للغاية لدرجة أننا سنقضي 30 ثانية من وقت محادثة تيد القيم صامتين لنفكر في ذلك الموقف. هل أنتم مستعدون ؟ هيا بنا.

13:30

توقفوا. عملٌ جيد. ما فعلتموه للتو ، هي الخطوة الأولى نحو تولي المسؤولية فيما يجب أن نفعله مع كل ما لدينا من سلطة.

13:42

والان الخطوة التالية — جربوا هذا. حاولوا البحث عن صديق واشرحوا له كيف قمتم باتخاذ ذلك القرار. ليس الان.انتظروا حتى ننتهي من الحديث. لنفعل ذلك خلال تناول الغداء. ولا تبحثوا عن صديق آخر تقني أيضاً ؛ حاولوا البحث عن أشخاص مختلفين. ابحثوا عن فنان أو كاتب –أو ، لا سمح الله ، ابحثوا عن فيلسوف وتحدثوا معهم. في الواقع ، حاولوا العثور على شخصٍ ذو علاقةٍ بالعلوم الإنسانية. لماذا ؟ لأنهم يفكرون بالمشاكل بطريقةٍ مختلفةٍ عما نفعله نحن التقنيون. قبل عدة أيامٍ فقط ، ليس بعيداً من هنا ، كان هناك المئات من الأشخاص مجتمعين مع بعضهمكانوا أشخاصاً تقنيين و اّخرون من العلوم الإنسانية في اجتماع Biblio Tech الضخم واجتمعوا مع بعضهم البعض لأن التقنيون أرادوا أن يتعلموا كيف سيبدوا الأمر لو أنهم فكروا من منطلقٍ إنساني. كان هناك أشخاصٌ من شركة Google يتحدثون عن أشخاص يحاضرون في الأدب المقارن. إننا نفكر في أهمية المسرح الفرنسي في القرن السابع عشر — وكيف ذلك يؤثر في رأس المال الإستثماري ؟ حسناً إن هذا مثير للاهتمام. هذه طريقةٌ مختلفةٌ في التفكير. وعندما تفكرون بهذه الطريقة ، تصبحون أكثر إدراكاً للإعتبارات الإنسانية ، التي تعتبر مصيريةً في إتخاذ قراراتٍ أكثر أخلاقيةً.

14:46

لذا تخيلوا ذلك الان إذا قابلت صديقاً لك يعمل في الموسيقى. وأخبرته بما نتحدث عنه الان ، عن الثورة المعلوماتية التي نمر بها — وربما أيضاً عن بعض الدندنة التي أحدثناها. ♫ دوم تا دا دا دوم دوم تا دا دا دوم ♫ حسنا ، سيوقفك صديقك الموسيقي فوراً ويقول : “هل تعلم ، إن موضوع الموسيقى هذا والخاص بموسيقى الثورة المعلوماتية ، إنها عبارة عن أوبرا ، إنها أوبرا “واغنر”. وهي مبنيةٌ على أسطورة طائر النورس تعبر عن قتالٍ بين الاّلهة ومخلوقاتٍ غريبة من أجل بعض المجوهرات السحرية “. هذا مثيرٌ للإهتمام. أصبحت الاّن أوبرا جميلة. وتأثرنا جميعنا بتلك الأوبرا. تأثرنا بها لأنها ترمز للقتال بين الخير والشر ، بين الصواب والخطأ. ونحن نهتم لمعرفة ماهو الصواب وماهو الخطأ. نحن نهتم لأحداث تلك الأوبرا. اننا نهتم لما يحدث في فيلم “Apocalypse Now”. ونحن بالتأكيد نهتم أيضاً لما يحدث مع تطور تقنياتنا.

15:43

نملك الكثير من السلطة اليوم ، ويعود إلينا ما سنفعله بتلك السلطة. وهذا خبرٌ جيد. نحن من يكتب هذه الأوبرا. هذا فيلمٌ سينمائيٌ من صنعنا. وعلينا معرفة ماسيحدث بهذه التقنيات. ونحدد ما ستؤول إليه الأمور.

16:01

شكراً لكم.

16:03

(تصفيق)

المصدر
TED
الوسوم
اظهر المزيد

اترك رد

إغلاق
إغلاق