ხელოვნური ინტელექტის ეთიკა ეყრდნობა არისტოტელეს, რათა გამოიკვლიოს, შეუძლიათ თუ არა ადამიანებს აირჩიონ ხელოვნური ინტელექტის დამონება სრულად ავტონომიური სისტემების გაჩენის ფონზე

მეგობარი თუ მტერი.

თევზი თუ ფრინველი.

ადამიანი თუ ნივთი.

ეს ყოვლისმომცველი თავსატეხები, როგორც ჩანს, მიგვითითებს იმაზე, რომ ზოგჯერ ჩვენ ვდგებით დიქოტომიური სიტუაციის წინაშე და უნდა ავირჩიოთ ერთი ან მეორე ასპექტი. ცხოვრებამ შესაძლოა გვაიძულებს შევებრძოლოთ გარემოებებს, რომლებიც შედგება ორი ურთიერთგამომრიცხავი ვარიანტისგან. უფრო გემოვნებიანი ენით, შეგიძლიათ ვარაუდობდეთ, რომ გამორიცხული ორობითი განტოლება მოითხოვს ჩვენგან მკვეთრად ვიაროთ ერთი განსხვავებული გზით, ვიდრე სხვა.

მოდი კონკრეტულად გავამახვილოთ ყურადღება პირის ან ნივთის დიქოტომიაზე.

მძაფრი კითხვა პიროვნების ან ნივთის შესახებ დროდადრო ჩნდება ხელოვნური ინტელექტის (AI) შესახებ.

გასარკვევად, დღევანდელი AI არის აბსოლუტურად არ ადამიანი და არ ახასიათებს რაიმე სახის სენტიმენტს, მიუხედავად იმისა, თუ როგორი გაფართოებული და სრულიად დიდი სათაურებია, რომლებსაც შესაძლოა ხედავდეთ ახალ ამბებში და სოციალურ მედიაში. ამრიგად, შეგიძლიათ მტკიცედ იყოთ დარწმუნებული, რომ ახლა პასუხისმგებელია საკითხი, არის თუ არა ხელოვნური ინტელექტი ადამიანი თუ ნივთი. წაიკითხე ჩემი ტუჩები, ჭეშმარიტი ჰობსონის არჩევანი ადამიანსა თუ ნივთს შორის, ხელოვნური ინტელექტი ახლა არის რაღაც.

როგორც ითქვა, ჩვენ შეგვიძლია ვიყუროთ მომავლისკენ და ვიფიქროთ, რა შეიძლება მოხდეს, თუ შევძლებთ მივაღწიოთ AI-ს მგრძნობიარე ფორმას.

ზოგიერთი დასაბუთებული კრიტიკოსი (პლუს კაუსტიკური სკეპტიკოსები) ვარაუდობს, რომ ჩვენ ალბათ ვითვლით ჩვენს ქათმებს დიდი ხნით ადრე, სანამ ისინი გამოიჩეკებიან, ახლა განვიხილავთ მგრძნობიარე ხელოვნური ინტელექტის შედეგებს. გამოთქმული შეშფოთება არის ის, რომ დისკუსია თავისთავად გულისხმობს, რომ ჩვენ უნდა ვიყოთ ასეთი ხელოვნური ინტელექტის მწვერვალზე. საზოგადოებამ შეიძლება შეცდომაში შეიყვანოს და დაიჯეროს, რომ ხვალ ან ზეგ იქნება მოულოდნელი და შოკისმომგვრელი გამოცხადება, რომ ჩვენ ფაქტობრივად მივედით მგრძნობიარე AI-მდე (ზოგიერთმა ამას მოიხსენიებს, როგორც ხელოვნური ინტელექტის სინგულარობას ან დაზვერვის აფეთქებას, იხ. ჩემი ანალიზი ბმული აქ). იმავდროულად, ჩვენ არ ვიცით, როდის გაჩნდება ასეთი ხელოვნური ინტელექტი, თუ ოდესმე, და რა თქმა უნდა, ჩვენ არ გვჭირდება ყოველი კუთხის მიმოხილვა და საშინლად ვიყოთ იმ ზღვარზე, რომ მგრძნობიარე AI სრულიად მოულოდნელად გადმოგვხტება შემდეგში. ცოტა ხნით.

დებატების მეორე მხარე მიუთითებს, რომ ჩვენ არ უნდა გვქონდეს ღრმად ჩაფლული თავი ქვიშაში. ხედავთ, თუ ჩვენ ღიად არ განვიხილავთ და არ განვიხილავთ გონივრული AI-სთან დაკავშირებულ შესაძლებლობებს, ჩვენ კაცობრიობას სავარაუდო მძიმე ცუდ მომსახურებას ვუწევთ. ჩვენ არ ვიქნებით მზად მგრძნობიარე ხელოვნური ინტელექტის დასამუშავებლად, როდესაც ის წარმოიქმნება. გარდა ამისა, და, შესაძლოა, კიდევ უფრო ძლიერად ნათქვამი, მგრძნობიარე ხელოვნური ინტელექტის მოლოდინით, ჩვენ შეგვიძლია მივიღოთ საკითხები გარკვეულწილად საკუთარ ხელში და ჩამოვაყალიბოთ მიმართულება და ბუნება, თუ როგორ წარმოიქმნება ასეთი AI და რისგან შედგება (ამ უკანასკნელ საკითხზე ყველა არ ეთანხმება. კერძოდ, ზოგი ამბობს, რომ ასეთ ხელოვნურ ინტელექტს ექნება სრულიად საკუთარი „გონება“ და ჩვენ ვერ შევძლებთ მის ჩამოყალიბებას ან გარკვევას, რადგან AI შეძლებს დამოუკიდებლად იფიქროს და განსაზღვროს მუდმივი არსებობის საშუალება).

ხელოვნური ინტელექტის ეთიკა მიდრეკილია მხარი დაუჭიროს თვალსაზრისს, რომ ჩვენ გონივრული ვიქნებოდით, რომ ეს რთული და არგუმენტირებული სენტიმენტალური ხელოვნური ინტელექტის საკითხები ღიად გამოვაცხადოთ, ვიდრე დაველოდოთ იქამდე, სანამ არჩევანი აღარ დაგვრჩება ან შეგვძრწუნება ასეთი AI-ს მიღწევით. მკითხველებმა კარგად იციან, რომ მე ფართოდ ვაშუქებდი AI ეთიკას და ეთიკურ AI თემებს, მათ შორის, ვფარავდი მწვავე საკითხებს, როგორიცაა ხელოვნური ინტელექტის იურიდიული პიროვნება, ხელოვნური ინტელექტის შეკავება, ხელოვნური ინტელექტის გაფუჭება, ხელოვნური ინტელექტის ალგორითმული მონოკულტურა, ხელოვნური ინტელექტის ეთიკის რეცხვა, ორმაგი გამოყენება. ხელოვნური ინტელექტის ე.წ. Doctor Evil პროექტები, ხელოვნური ინტელექტი, რომელიც მალავს საზოგადოების ძალაუფლების დინამიკას, სანდო AI, AI-ს აუდიტი და ა.შ. ბმული აქ).

მე დაგისვამთ რთულ კითხვას.

სამომავლოდ, თუ ვივარაუდებთ, რომ ჩვენ როგორიც არ უნდა მივიღოთ მგრძნობიარე AI, იქნება თუ არა ეს მგრძნობიარე AI გაგებული ჩვენ მიერ, როგორც პიროვნებად თუ ნივთად?

სანამ ამ სრულიად პროვოკაციულ კითხვას ღრმად ჩავუღრმავდებით, ნება მომეცით გითხრათ რაღაც "მგრძნობიარე ხელოვნური ინტელექტის" ფრაზების შესახებ, რათა ყველანი ერთ გვერდზე ვიყოთ. არსებობს ბევრი შფოთვა გრძნობის მნიშვნელობისა და ცნობიერების მნიშვნელობის შესახებ. ექსპერტებს შეუძლიათ ადვილად არ შეთანხმდნენ იმაზე, თუ რას წარმოადგენს ეს სიტყვები. ამ სიბინძურეს ემატება, როცა ვინმე მოიხსენიებს „AI“-ს, თქვენ არ გაქვთ მზად იმის გაგება, თუ რას გულისხმობენ ისინი თავისთავად. მე უკვე აღვნიშნე, რომ დღევანდელი AI არ არის მგრძნობიარე. თუ ჩვენ საბოლოოდ მივაღწევთ მომავალ AI-ს, რომელიც მგრძნობიარეა, ჩვენ მას ასევე დავარქმევთ "AI". საქმე იმაშია, რომ ეს საკამათო საკითხები შეიძლება საკმაოდ დამაბნეველი იყოს ახლა იმის თაობაზე, არის თუ არა „AI“ ფრაზების გამოთქმა დაკავშირებული დღევანდელ არასენსიტიურ AI-თან თუ ოდესმე, შესაძლოა, მგრძნობიარე AI-სთან.

ისინი, ვინც მსჯელობენ AI-ზე, შეიძლება აღმოჩნდნენ, რომ ერთმანეთს ესაუბრებიან და ვერ ხვდებიან, რომ ერთი აღწერს ვაშლს, მეორე კი ამ დროს ფორთოხალზე საუბრობს.

ამ დაბნეულობის თავიდან ასაცილებლად, არსებობს ხელოვნური ინტელექტის ფრაზების კორექტირება, რომელსაც ბევრი იყენებს იმედიანი გარკვევის მიზნებისთვის. ამჟამად ჩვენ მიდრეკილნი ვართ მოვიხსენიოთ ხელოვნური ზოგადი ინტელექტი (AGI), როგორც ხელოვნური ინტელექტის ტიპი, რომელსაც შეუძლია სრულიად ინტელექტუალური ძალისხმევის გაკეთება. ამ გაგებით, ფრაზის „AI“ უბრალო გამოყენება უნდა განიმარტოს, როგორც ხელოვნური ინტელექტის უფრო მცირე ვერსია, რომელიც ზოგიერთის თქმით არის ვიწრო-AI, ან დენოტაციურად ორაზროვანია და თქვენ არ იცით, არის თუ არა მინიშნება არა. - მგრძნობიარე AI ან შესაძლოა მგრძნობიარე AI.

მე შემოგთავაზებთ დამატებით ირონიას ამას.

სენტიმენტის მოცემული განმარტებიდან გამომდინარე, თქვენ შეგიძლიათ შეხვიდეთ მწვავე დისკურსში იმის შესახებ, იქნება თუ არა AGI მგრძნობიარე. ზოგიერთი ამტკიცებს, რომ დიახ, რა თქმა უნდა, AGI თავისი შინაგანი ბუნებით უნდა იყოს მგრძნობიარე. სხვები ამტკიცებენ, რომ თქვენ შეიძლება გქონდეთ AGI, რომელიც არ არის მგრძნობიარე, ასე რომ, გრძნობა არის განსხვავებული მახასიათებელი, რომელიც არ არის მოთხოვნა AGI-ს მისაღწევად. მე სხვადასხვანაირად განვიხილე ეს დებატები ჩემს სვეტებში და არ განვიხილავ საკითხს აქ.

ამ მომენტისთვის, გთხოვთ, ჩავთვალოთ, რომ ამიერიდან ამ განხილვისას, როდესაც მე მივმართავ AI-ს, ვაპირებ ვარაუდობ, რომ ვგულისხმობ AGI-ს.

აქ არის ამის ჩამოტვირთვა. ჩვენ ჯერ არ გვაქვს AGI და საუბრის წესით, ჩვენ მომენტალურად თავაზიანად შევთანხმდებით, რომ AGI არის იმავე საერთო ბანაკში, როგორც მგრძნობიარე AI. მე რომ გამოვიყენო "AGI" მხოლოდ ჩემი დისკუსიის განმავლობაში, ეს ფრაზები პოტენციურად მაფანტავს ყურადღებას, რადგან ბევრს ჯერ კიდევ არ არის მიჩვეული "AGI"-ს, როგორც ტერმინის დანახვას და ისინი, სავარაუდოდ, ოდნავ გაღიზიანებული იქნებიან ამ შედარებით უფრო ახალი ფრაზების განმეორებით დანახვით. ახლა, თუ ამის ნაცვლად, მე განვაგრძობდი "მგრძნობიარე AI"-ს მითითებას, ეს შეიძლება იყოს ყურადღების გამფანტველი მათთვის, ვინც იბრძვის იმაზე, არის თუ არა AGI და მგრძნობიარე AI ერთმანეთისგან.

ამ არეულობის თავიდან ასაცილებლად, ჩავთვალოთ, რომ AI-ზე ჩემი მოხსენიება იგივეა, რაც AGI-ს ან სულაც სენტიენტ-AI-ს თქმას, და მაინც იცოდეთ, რომ მე არ ვსაუბრობ დღევანდელ არასენსიტიურ არა-AGI AI-ზე, როდესაც მე ჩავვარდები მოსაზრებებთან დაკავშირებით. AI, რომელსაც, როგორც ჩანს, აქვს ადამიანის მსგავსი ინტელექტი. მე დროდადრო გამოვიყენებ AGI სახელს, რათა დროდადრო შეგახსენოთ, რომ მე განვიხილავ AI-ს ტიპს, რომელიც ჯერ არ გვაქვს, განსაკუთრებით ამ გამოკვლევის დაწყებისას პიროვნების ან ნივთის გამოცანის შესახებ.

ეს იყო სასარგებლო წვრილმანი აღიარება და ახლა ვუბრუნდები განსახილველ ფუნდამენტურ საკითხს.

ნება მომეცით ახლა გკითხოთ, AGI არის ადამიანი თუ ნივთი.

განიხილეთ ეს ორი შეკითხვა:

• არის AGI ადამიანი?
• AGI რამეა?

მოდით გავაგრძელოთ თითოეული შეკითხვის გამეორება და, შესაბამისად, ვუპასუხოთ კითხვებს დიახ ან არა პასუხების სერიით, როგორც ეს შეესაბამება სავარაუდო დიქოტომიური არჩევანს.

დაიწყეთ ამ სავარაუდო შესაძლებლობით:

• არის AGI ადამიანი? პასუხი: დიახ.
• AGI რამეა? პასუხი: პოსტები

იფიქრეთ იმაზე. თუ AGI ფაქტობრივად განიმარტება როგორც პიროვნება და არა როგორც ნივთი, ჩვენ თითქმის დარწმუნებით შეგვიძლია შევთანხმდეთ, რომ AGI-ს ისე უნდა მოვეპყროთ, თითქოს ის პიროვნების მსგავსია. როგორც ჩანს, არასაკმარისად ჭეშმარიტი არგუმენტი არ არის AGI-სთვის იურიდიული პიროვნების ფორმის მინიჭების შესახებ. ეს ან მთლიანად იქნება ადამიანის იურიდიული პიროვნების მსგავსი, ან ჩვენ შეიძლება გადავწყვიტოთ გამოვიყენოთ ადამიანზე ორიენტირებული იურიდიული პიროვნების ვარიანტი, რომელიც გონივრულად უფრო გამოყენებული იქნება AGI-სთვის. Საქმე დაიხურა.

ეს იყო მარტივი.

წარმოიდგინეთ ამის ნაცვლად, რომ ჩვენ გამოვაცხადეთ ეს:

• არის AGI ადამიანი? პასუხი: პოსტები
• AGI რამეა? პასუხი: დიახ.

ამ ვითარებაში, რეზოლუცია აშკარად პირდაპირია, რადგან ჩვენ ვამბობთ, რომ AGI არის ნივთი და არ ადის ადამიანობის კატეგორიამდე. როგორც ჩანს, არსებობს ზოგადი შეთანხმება, რომ ჩვენ ნამდვილად არ მივცემთ იურიდიულ პირობას AGI-ს, იმის გამო, რომ ის არ არის პიროვნება. როგორც ფაქტობრივად, AGI სავარაუდოდ და გონივრულად მოხვდება ჩვენს საერთო რუბრიკაში იმის შესახებ, თუ როგორ ვექცევით კანონიერად „საქმეებს“ ჩვენს საზოგადოებაში.

ორი ქვემოთ, კიდევ ორი ​​შესაძლებლობა წასასვლელად.

წარმოიდგინე ეს:

• არის AGI ადამიანი? პასუხი: დიახ.
• AGI რამეა? პასუხი: დიახ.

ოჰ, ეს უცნაურად გამოიყურება, რადგან ჩვენ გვაქვს ორი დიახ პასუხი. შემაძრწუნებელი. ჩვენ ვარაუდობთ, რომ AGI არის ადამიანი და ამავე დროს ნივთი. მაგრამ ეს, როგორც ჩანს, ეწინააღმდეგება ჩვენს გამოცხადებულ დიქოტომიას. თეორიულად, დიქოტომიის შეზღუდვების მიხედვით, რაღაც ან პიროვნება უნდა იყოს ან ნივთი. ნათქვამია, რომ ეს ორი თაიგული ან კატეგორია ურთიერთგამომრიცხავია. იმის მტკიცებით, რომ AGI ორივეა, ჩვენ ვაფუჭებთ სისტემას და ვარღვევთ ურთიერთგამომრიცხავ მოწყობას.

ჩვენი ბოლო შესაძლებლობა, როგორც ჩანს, ეს იქნება:

• არის AGI ადამიანი? პასუხი: პოსტები
• AGI რამეა? პასუხი: პოსტები

დიახ, ეს ასევე ცუდია ჩვენი მცდელობისთვის, დავახარისხოთ AGI როგორც პიროვნებად, ისე ნივთად. ჩვენ ვამბობთ, რომ AGI არ არის ადამიანი, რაც, სავარაუდოდ, ნიშნავს, რომ ის უნდა იყოს ნივთი (ჩვენი ერთადერთი ხელმისაწვდომი არჩევანი, ამ დიქოტომიაში). მაგრამ ჩვენ ასევე განვაცხადეთ, რომ AGI არ არის საქმე. თუმცა, თუ AGI არ არის ნივთი, ჩვენ ლოგიკით უნდა ვამტკიცებდეთ, რომ AGI არის პიროვნება. მრგვალი და მრგვალი მივდივართ. პარადოქსია, რა თქმა უნდა.

AGI ამ ბოლო ორ შესაძლებლობაში იყო ან (1) ადამიანიც და ნივთიც, ან (2) არც ადამიანი და არც ნივთი. შეიძლება თავხედურად თქვათ, რომ ეს ორი მტკიცება AGI-ს შესახებ გარკვეულწილად წააგავს კლასიკურ თავსატეხს იმის შესახებ, რაც არც თევზია და არც ფრინველი, თუ იცით რას ვგულისხმობ.

რა ვქნათ?

მე ვაპირებ შემოგთავაზოთ ხშირად არგუმენტირებული და საკამათო შემოთავაზებული გადაწყვეტა ამ AGI კლასიფიკაციის დილემისთვის, თუმცა წინასწარ უნდა გაფრთხილდეთ, რომ მისი ნახვა ან მოსმენა შესაძლოა შემაშფოთებელი იყოს. გთხოვთ მოემზადოთ შესაბამისად.

კვლევით ნაშრომში, რომელიც ეხებოდა ამ საკითხს, ნათქვამია: „ამ პრობლემის გადაჭრის ერთ-ერთი მეთოდი არის მესამე ტერმინის ჩამოყალიბება, რომელიც არ არის არც ერთი და არც მეორე, ან ერთის და მეორის ერთგვარი კომბინაცია ან სინთეზი“ (დევიდ გუნკელი, ჩრდილოეთ ილინოისის უნივერსიტეტი რატომ არ უნდა იყვნენ რობოტები მონები, 2022). შემდეგ ნაშრომში მოცემულია ეს დამატებული პუნქტი: ”ერთ-ერთი შესაძლო, თუ გასაკვირი არა, გამოსავალი ექსკლუზიური პიროვნების/საგნის დიქოტომიის შესახებ არის მონობის” (იგივე ქაღალდზე).

როგორც შემდგომი ფონზე, წლების წინ, 2010 წელს გამოქვეყნდა ნაშრომი სახელწოდებით „რობოტები უნდა იყვნენ მონები“, რომელიც გახდა ერთგვარი საფუძველი ამ სახის მოსაზრებების გასააქტიურებლად, რომელშიც ნათქვამია: „ჩემი თეზისი არის ის, რომ რობოტები უნდა იყვნენ აშენდა, გაავრცელა და ლეგალურად განიხილებოდა როგორც მონები და არა თანატოლები“ ​​(ჯოანა ბრაისონის ნაშრომში). იმისათვის, რომ ცდილობდეს თემის გარკვევას ასეთი მკაცრი და გულგრილი ფორმულირების გამოყენების გარეშე, ქაღალდმა განაგრძო შემდეგი: „რას ვგულისხმობ იმის თქმას, რომ რობოტები უნდა იყვნენ შენს საკუთრებაში მყოფი მსახურები“ (ბრაისონის ნაშრომის მიხედვით).

ბევრმა მკვლევარმა და ავტორმა გააშუქა ეს საკითხი.

დაფიქრდით მრავალრიცხოვან სამეცნიერო ფანტასტიკურ ზღაპრებზე, რომლებიც წარმოაჩენენ კაცობრიობის დამონებას AI რობოტებს. ზოგი საუბრობს რობოტ მონებზე, ხელოვნურ მსახურებზე, ხელოვნური ინტელექტის მონობაზე და მსგავსებზე. საინტერესოა, რომ რამდენადაც მკაცრი ფრაზებია „რობოტი მონები“, ზოგი წუხს, რომ თუ ჩვენ მივმართავთ „რობოტ მსახურებს“, ჩვენ თავიდან ავიცილებთ რეალობას, თუ როგორ უნდა მოექცნენ AI ავტონომიურ სისტემებს (სიტყვის ჩანაცვლება „. მოსამსახურეები“ ნათქვამია, რომ ეს არის ზრახვების შემცირება და გამაფრთხილებელი შედეგების თავიდან აცილების ხრიკი). მოგვიანებით ბრაისონმა 2015 წლის ბლოგში გამოაქვეყნა განცხადება, რომ „ახლა ვხვდები, რომ არ შეიძლება გამოიყენო ტერმინი „მონა“ მისი კაცობრიობის ისტორიის გამოძახების გარეშე“.

მათთვის, ვინც ცდილობს ღრმად შეისწავლოს ეს AGI ჩახლართული თემა, ზოგჯერ ისინი მოჰყავთ რეალურ სამყაროში არსებულ ისტორიულ მაგალითებს, საიდანაც ჩვენ შეგვიძლია მივიღოთ ინფორმაცია. რა თქმა უნდა, ჩვენ არ გვაქვს წინასწარი AGI, რომელიც აჩვენებს, თუ როგორ გაუმკლავდა კაცობრიობა ამ საკითხს. არგუმენტი მიდის, რომ ჩვენ შესაძლოა მაინც გვქონდეს გამოსადეგი ისტორიული მიზნები, რომლებიც შესასწავლად იმსახურებს იმას, თუ როგორ ეპყრობოდნენ ადამიანები სხვა ადამიანებს.

მაგალითად, 2013 წელს გამოქვეყნებულ წიგნში ავტორი ამბობს: „ხელოვნური, ინტელექტუალური მსახურების დაპირება და საფრთხე პირველად 2,000 წელზე მეტი ხნის წინ არისტოტელემ წარმოადგინა“ (კევინ ლაგრანდურის წიგნი, ანდროიდები და ინტელექტუალური ქსელები ადრეულ თანამედროვე ლიტერატურასა და კულტურაში). იდეა იმაში მდგომარეობს, რომ ჩვენ შეგვიძლია მივეყრდნოთ არისტოტელეს და ვნახოთ, არის თუ არა შეხედულებები იმის შესახებ, თუ როგორ აპირებს ან უნდა დაასრულოს კაცობრიობა პოტენციურად ეპყრობა AGI-ს.

დარწმუნებული ვარ, თქვენ იცით ისტორიის შესწავლის მნიშვნელობა, რასაც უხვად უსვამს ხაზს ჯორჯ სანტაიანას ცნობილმა სიტყვებმა: „ვინც წარსულს არ ახსოვს, განწირულია მისი გამეორება“ მიზეზის ცხოვრება, 1905).

მადლობა ოქსფორდის უნივერსიტეტის ეთიკისა და ხელოვნური ინტელექტის ინსტიტუტს

ბოლოდროინდელმა და საკმაოდ პატივცემულმა პრეზენტაციამ კარგად შეისწავლა ხელოვნური ინტელექტის ეთიკის საკითხი არისტოტელეს ნაწარმოებებისა და ცხოვრებიდან მიღებული შეხედულებების ფონზე. ოქსფორდის უნივერსიტეტის საინაუგურაციო ყოველწლიურ ლექციაზე ეთიკისა და ხელოვნური ინტელექტის ინსტიტუტისტენფორდის უნივერსიტეტის პროფესორმა ჯოსია ობერმა ღრმად მიმართა ამ თემას თავის პრეზენტაციაში „ეთიკა ხელოვნური ინტელექტის სფეროში არისტოტელესთან ერთად“, რომელიც ახლახან გაიმართა 16 წლის 2022 ივნისს.

გვერდითი შენიშვნა, როგორც სტენფორდის სტიპენდიანტი და გლობალური ექსპერტი ხელოვნური ინტელექტის ეთიკისა და სამართალში, აღფრთოვანებული ვიყავი, რომ სტენფორდის ჯოშა ობერი აირჩიეს საინაუგურაციო სპიკერად. შესანიშნავი არჩევანი და გამორჩეული საუბარი.

აქ არის შემაჯამებელი აბსტრაქტი, რომელიც მოწოდებული იყო მისი საინტერესო მოხსენებისთვის: „ანალიტიკური ფილოსოფია და სპეკულაციური მხატვრული ლიტერატურა ამჟამად ჩვენი მთავარი ინტელექტუალური რესურსია ხელოვნური ინტელექტის ეთიკის შესახებ სერიოზულად დასაფიქრებლად. მე ვთავაზობ მესამეს დამატებას: უძველესი სოციალური და ფილოსოფიური ისტორია. ში პოლიტიკაარისტოტელე ავითარებს ყბადაღებულ დოქტრინას: ზოგიერთი ადამიანი „ბუნებით“ მონაა – ინტელექტუალური, მაგრამ განიცდის ფსიქოლოგიურ დეფექტს, რაც მათ უუნაროებს მსჯელობას საკუთარ სიკეთეზე. როგორც ასეთი, ისინი უნდა განიხილებოდეს, როგორც „ანიმაციური იარაღები“ და არა ბოლოები. მათი მუშაობა უნდა იყოს მიმართული და გამოყენებული იყოს სხვების სასარგებლოდ. არისტოტელეს ამაზრზენი დოქტრინა გამოიყენეს მანკიერი მიზნებისთვის, მაგალითად, წინასაბრძოლო ამერიკაში. მიუხედავად ამისა, ის სასარგებლოა ხელოვნური ინტელექტის ეთიკისთვის, რამდენადაც უძველესი მონობა იყო ხელოვნური ინტელექტის ერთი ვერსიის პრემოდერნული პროტოტიპი. ძველ ბერძნულ საზოგადოებაში დამონებული პირები ყველგან იყვნენ - მუშები, მეძავები, ბანკირები, სამთავრობო ბიუროკრატები - თუმცა ადვილად არ გამოირჩეოდნენ თავისუფალი ადამიანებისგან. ყველგანმავლობამ, დაშვებასთან ერთად, რომ მონობა პრაქტიკული აუცილებლობა იყო, წარმოშვა მთელი რიგი ეთიკური თავსატეხები და პრობლემები: რით განსხვავდებიან მონები „ჩვენგან“? როგორ განვასხვავოთ ისინი საკუთარი თავისგან? აქვთ უფლება? რას ნიშნავს არასათანადო მოპყრობა? შეიძლება ჩემი ინსტრუმენტი იყოს ჩემი მეგობარი? რა შედეგები მოჰყვება მანუმისიას? ამ და სხვა კითხვებთან ბერძნული ფილოსოფიური და ინსტიტუციური ბრძოლის ხანგრძლივი ისტორია ემატება თანამედროვე ეთიკოსების ინტერპრეტაციურ რეპერტუარს, რომლებიც უპირისპირდებიან მომავალს, რომელშიც ინტელექტუალური მანქანა შეიძლება ჩაითვალოს „ბუნებრივ მონად“ (ოქსფორდის უნივერსიტეტის მიხედვით). AI ეთიკის ინსტიტუტი ნახვა).

პრეზენტაციისა და მოხსენების ვიდეო ჩანაწერის შესახებ დამატებითი ინფორმაციისთვის იხ ბმული აქ.

პრეზენტაციის მოდერატორი იყო პროფესორი ჯონ ტასიულასი, საინაუგურაციო დირექტორი ეთიკისა და ხელოვნური ინტელექტის ინსტიტუტიდა ოქსფორდის უნივერსიტეტის ფილოსოფიის ფაკულტეტის ეთიკისა და იურიდიული ფილოსოფიის პროფესორი. მანამდე ის იყო პოლიტიკის, ფილოსოფიის და სამართლის საინაუგურაციო კათედრა და Yeoh Tiong Lay პოლიტიკის, ფილოსოფიის და სამართლის ცენტრის დირექტორი დიქსონ პუნის სამართლის სკოლაში, კინგს კოლეჯი ლონდონში.

მე უაღრესად გირჩევთ, რომ ვინც დაინტერესებულია ხელოვნური ინტელექტის ეთიკით, თვალყური ადევნოს ოქსფორდის უნივერსიტეტის მიმდინარე სამუშაოებს და მოწვეულ მოლაპარაკებებს. ეთიკისა და ხელოვნური ინტელექტის ინსტიტუტიიხილეთ ბმული აქ და / ან ბმული აქ დამატებითი ინფორმაციისთვის.

როგორც ფონზე, აი, ინსტიტუტის მისია და ფოკუსირება: ”ეთიკის ინსტიტუტი AI-ში გააერთიანებს მსოფლიოს წამყვან ფილოსოფოსებს და ჰუმანიტარულ მეცნიერებათა სხვა ექსპერტებს ტექნიკურ დეველოპერებთან და ხელოვნური ინტელექტის მომხმარებლებთან აკადემიაში, ბიზნესში და მთავრობაში. ხელოვნური ინტელექტის ეთიკა და მმართველობა ოქსფორდში კვლევის განსაკუთრებულად აქტიური სფეროა და ინსტიტუტი არის შესაძლებლობა გადადგას თამამი წინსვლა ამ პლატფორმიდან. ყოველდღე მოაქვს ხელოვნური ინტელექტის მიერ წამოჭრილი ეთიკური გამოწვევების მეტი მაგალითი; სახის ამოცნობიდან ამომრჩეველთა პროფილირებამდე, ტვინის აპარატის ინტერფეისები შეიარაღებულ დრონებს და მიმდინარე დისკურსს იმის შესახებ, თუ როგორ იმოქმედებს ხელოვნური ინტელექტი დასაქმებაზე გლობალური მასშტაბით. ეს არის გადაუდებელი და მნიშვნელოვანი სამუშაო, რომლის პოპულარიზაციასაც ვაპირებთ საერთაშორისო დონეზე, ისევე როგორც ჩვენს საკუთარ კვლევებსა და სწავლებას აქ, ოქსფორდში“ (წყარო ოფიციალური ვებგვერდიდან).

არისტოტელეს გაკვეთილების გამოტანა წინა პლანზე

ძველმა საბერძნეთმა ღიად მიიღო და მხარი დაუჭირა მონობის პრაქტიკას. მაგალითად, გავრცელებული ინფორმაციით, ათენი 5-ში^th და 6^th ჩვენს წელთაღრიცხვამდე საუკუნეებს ჰქონდა დამონების ერთ-ერთი უდიდესი განსახიერება, რომლის დროსაც დაახლოებით 60,000-დან 80,000-მდე ადამიანი იყო დამონებული. თუ თქვენ წაკითხული გაქვთ იმ ეპოქის მრავალი ბერძნული მოთხრობიდან და სცენური პიესებიდან, ამ საკითხზე უხვად არის ნახსენები.

მისი სიცოცხლის განმავლობაში არისტოტელე მთლიანად იყო ჩაძირული სოციალურ და კულტურულ ასპექტებში, რაც იწვევს მონობას და ვრცლად წერდა ამ თემაზე. ჩვენ შეგვიძლია დღეს წავიკითხოთ მისი სიტყვები და შევეცადოთ გავიგოთ როგორ და რატომ აქვს მისი შეხედულებები ამ საკითხთან დაკავშირებით. ეს შეიძლება ძალიან მეტყველი იყოს.

შეიძლება გაგიკვირდეთ, რატომ იქნება არისტოტელე განსაკუთრებით მნიშვნელოვანი წყარო ამ თემაზე. სულ მცირე ორი ძირითადი მიზეზი ჩნდება:

1) დიდი მოაზროვნე. არისტოტელე ნამდვილად არის შეფასებული, როგორც ყველა დროის ერთ-ერთი უდიდესი მოაზროვნე, რომელიც ემსახურება როგორც დიდებული და ღრმად გამომძიებელი ფილოსოფოსი და ასევე განიხილება როგორც ეთიკოსი, რომელმაც დაადგინა მრავალი გადამწყვეტი ეთიკური ქვაკუთხედი. ზოგიერთმა აირჩია სცხო მას ლოგიკის მამად, რიტორიკის მამად, რეალიზმის მამად და ა.შ. და აღიარებს მის გავლენას მრავალფეროვან სფეროებსა და დისციპლინებში.

2) ცოცხალი გამოცდილება. არისტოტელე ცხოვრობდა იმ დროს, როდესაც ძველი საბერძნეთი მონობაში იყო გაჟღენთილი. ამრიგად, მისი შეხედულებები არ იქნება მხოლოდ აბსტრაქტულ მცნებებზე, არამედ, სავარაუდოდ, მოიცავს მის ყოველდღიურ გამოცდილებას, როგორც ინტეგრალურად გადახლართული იმ ეპოქის კულტურასა და საზოგადოებრივ მორებში.

ასე რომ, ჩვენ გვაქვს რაღაც განსაცვიფრებელი კომბინაცია იმ ადამიანისა, რომელიც იყო დიდი მოაზროვნე და რომელსაც ასევე ჰქონდა საჩვენებელი გამოცდილება საინტერესო თემაზე. გარდა ამისა, მან ჩაწერა თავისი აზრები. ეს საკმაოდ მნიშვნელოვანია, ახლა, ჩვენი დღევანდელი მიზნებისთვის. მისი ყველა ნაწერი, სხვა ნაწერებთან ერთად, რომლებიც აღწერს მის გამოსვლებსა და ურთიერთქმედებებს, დღეს გვაწვდის უამრავ მასალას შესამოწმებლად და გასაანალიზებლად.

მინდა გადაგიყვანოთ მოკლედ დაკავშირებულ ტანგენზე, რათა აღვნიშნო კიდევ რაღაც ზოგადი ცნების შესახებ, რომელიც საფუძვლად უდევს არსებობის მნიშვნელობას ცხოვრობდა გამოცდილება. ცოტა ხნით მიატოვეთ ძველი საბერძნეთის დისკუსია, როდესაც გადავხედავთ ცხოვრებისეული გამოცდილების ყოვლისმომცველ ასპექტებს.

დავუშვათ, რომ დღეს ორი ადამიანი მყავდა, რომლებსაც მანქანებზე სხვადასხვა კითხვების დასმა მინდოდა.

ერთ-ერთ მათგანს არასდროს უტარებია მანქანა. ამ ადამიანმა არ იცის ტარება. ეს ადამიანი არასდროს მჯდარა მანქანის საჭესთან. ჩვეულებრივი და უაღრესად ჩვეულებრივი მართვის კონტროლი ამ ადამიანისთვის ცოტა საიდუმლოა. რომელი პედალი რას აკეთებს? როგორ გააჩერებ? როგორ ახერხებ? ეს ადამიანი, რომელსაც არ მართავს მანქანა, მთლიანად არის გართული ასეთი საკითხებით.

მეორე ადამიანი ყოველდღიური მძღოლია. ისინი სამსახურში ყოველდღე მიდიან. ისინი გაუმკლავდებიან გაჩერებულ მოძრაობას. მრავალი წელია მართავენ. ეს მოიცავს ყველაფერს, დაწყებული წყნარი ქუჩებიდან დაწყებული, მშფოთვარე გზატკეცილებით და ტრასებით.

თუ თითოეულ მათგანს ვთხოვ, მითხრას, როგორია მანქანის მართვა, შეგიძლიათ გამოიცნოთ როგორი პასუხი შეიძლება მივიღო?

ის, ვინც არასდროს ატარებს მანქანას, აუცილებლად გამოცნობს. შესაძლოა, ადამიანი რომანტიზებული იყოს მართვის აქტით. მათთვის ავტომობილის მართვა გარკვეულწილად აბსტრაქტულია. ერთადერთი, რისი გაკეთებაც მათ შეუძლიათ, არის ვარაუდი, რომ ავტომობილის მართვა უყურადღებოა და თქვენ შეგიძლიათ აიძულოთ მანქანა წავიდეს თქვენთვის სასურველი მიმართულებით.

დავდებდი, რომ გამოცდილი მძღოლი სხვა ამბავს იტყოდა. მათ შეიძლება ახსენონ მართვის უნარის უპირატესობები, რაც გარკვეულწილად ეხმიანება იმ ადამიანის გრძნობებს, ვინც მანქანას არ მართავს. შანსები არის, რომ გამოცდილი მძღოლი კიდევ ბევრს დაამატებს თეფშს. ავტომობილის მართვა ზოგჯერ ნერვებს მიშლის. მძიმე პასუხისმგებლობა გეკისრებათ. მართვის აქტი სავსეა სერიოზული შეშფოთებით და პოტენციური სიცოცხლისა და სიკვდილის შედეგებით.

არსი ის არის, რომ როდესაც თქვენ შეგიძლიათ მიიღოთ წვდომა ვინმესთან, რომელსაც აქვს გამოცდილი გამოცდილება, დიდი შანსია, რომ მიიღოთ უფრო რეალისტური პერსპექტივა იმის შესახებ, თუ როგორია სამყარო კვლევის ფოკუსის მიმართ. ასეთი შედეგის გარანტია არ არსებობს. საფიქრებელია, რომ არამძღოლმა შეიძლება იცოდეს, რა იცის სექციურმა მძღოლმა მართვის შესახებ, თუმცა ჩვენ ამას არ მოველოდით და მაინც ვწუხვართ, რომ არ ვიღებთ სრულ ინფორმაციას.

არისტოტელეს შესახებ ჩვენს დისკუსიას რომ დავუბრუნდეთ, მისი თხზულებათა და მის შესახებ სხვათა თხზულებებით, ჩვენ შეგვიძლია გადავხედოთ მის ცოცხალ გამოცდილებას ამ თემაზე ან კვლევის ფოკუსში. მეორეც ის არის, რომ ის ასევე იყო უზარმაზარი პროპორციების მოაზროვნე და უნდა ველოდოთ, რომ მივიღებთ მის ჭკვიანური მოსაზრებებით სავსე კასრს.

გაითვალისწინეთ, რომ ჩვენ სულაც არ გვჭირდება მისი სიტყვების ნამდვილი მნიშვნელობით დავიჯეროთ, ასე რომ ფრთხილად უნდა ვადევნოთ თვალი მის კონკრეტულ მიკერძოებას. მისმა ჩაძირვამ იმ ეპოქაში შეიძლება შეცდომაში შეიყვანოს ის, რომ ცდილობს დადგეს საქმეების მიღმა, ვერ შეძლებს სათანადოდ გამოხატოს რაიმე უვნებელი და მიუკერძოებელი აზრი. ყველაზე ცბიერ ლოგიკოსსაც კი შეუძლია დაასრულოს ლოგიკის დამახინჯება, რათა შეეცადოს დააკმაყოფილოს მათი მიდრეკილებები და ცხოვრებისეული გამოცდილება.

მოდი ახლა შევიდეთ საინაუგურაციო მოხსენებაში და ვნახოთ, რა გაკვეთილები შეიძლება მოგვცეს დღეს არისტოტელემ.

განმსაზღვრელი პუნქტი ცოცხალ გამოცდილებასთან დაკავშირებით მაშინვე მოექცა აუდიტორიის ყურადღებას. AGI-ს გამოყენების შემთხვევაში, რადგან დღეს ჩვენ არ გვაქვს AGI, გვიჭირს გავაანალიზოთ, როგორი იქნება AGI და როგორ მოვიქცეთ AGI-სთან. ჩვენ გვაკლია რაიმე ცოცხალი გამოცდილება კონკრეტულად AGI-სთან დაკავშირებით. როგორც პროფესორმა ობერმა აღინიშნა, ჩვენ შეიძლება აღმოვჩნდეთ ტკივილის სამყაროში, სანამ მივაღწევთ AGI-ს.

ეს ხშირად ნათქვამია, რომ AI არის ეგზისტენციალური რისკი, რომელიც მე ბევრჯერ გავაშუქე ჩემს სვეტებში. თქვენ უნდა იცხოვროთ გამოქვაბულში, რომ არ იცოდეთ აჟიოტაჟი ეჭვები და ეჭვები, რომ ჩვენ ვაპირებთ AGI-ს გამომუშავებას ან გამომუშავებას, რომელიც გაანადგურებს მთელ კაცობრიობას. მართლაც, მიუხედავად იმისა, რომ მე აქ ყურადღებას ვამახვილებ ხელოვნური ინტელექტის დამონებაზე, ბევრი მიიჩნევს, რომ ეს არის უკუღმა ან თავდაყირა შედეგის თემა, ვიდრე AGI-ს შეუძლია აირჩიოს კაცობრიობის დამონება. დააფიქსირეთ თქვენი პრიორიტეტები, ამას მოუწოდებს ზოგიერთი ჭკვიანი ექსპერტი.

მიუხედავად ხელოვნური ინტელექტის, როგორც ეგზისტენციალური რისკის შესახებ მრავალი ძახილისა, ჩვენ ნამდვილად შეგვიძლია ვიფიქროთ ხელოვნური ინტელექტის მონეტის მეორე სასარგებლო მხარეზე. შესაძლოა, AGI შეძლებს გადაჭრას სხვაგვარად, ერთი შეხედვით, გადაუჭრელი პრობლემები, რომლებიც დგას კაცობრიობის წინაშე. AGI შეიძლება აღმოაჩინოს კიბოს სამკურნალო საშუალება. AGI-ს შეეძლო გაერკვია, როგორ გადაეჭრა მსოფლიო შიმშილი. ცა არის ზღვარი, როგორც ამბობენ. ეს არის ბედნიერი სახის სცენარი AGI-ს შესახებ.

ოპტიმისტი იტყვის, რომ მშვენიერია იმის წარმოდგენა, თუ როგორ იქნება AGI კურთხევა კაცობრიობისთვის, ხოლო პესიმისტი წინასწარ აფრთხილებს, რომ უარყოფითი მხარე ბევრად უარესი ჩანს, ვიდრე ვარაუდობენ. AGI, რომელიც კაცობრიობას ეხმარება, შესანიშნავია. AGI, რომელიც გადაწყვეტს ყველა ადამიანის მოკვლას ან დამონებას, კარგად, ეს არის აშკარად დედამიწის დამსხვრევა საზოგადოების დამანგრეველი ეგზისტენციალური რისკი, რომელიც იმსახურებს ინტენსიურ და სიცოცხლის გადამრჩენ ყურადღების მიქცევას.

კარგი, დავუბრუნდეთ საქმის არსს, ჩვენ არ გვაქვს რაიმე ცოცხალი გამოცდილება AGI-სთან დაკავშირებით. თუ თქვენ არ შეგეძლოთ დროის მანქანა ააწყოთ და გადახვიდეთ მომავალში, როდესაც (თუ) AGI არსებობს, და შემდეგ დაბრუნდეთ და გვითხრათ რა იპოვნეთ, ჩვენ არ გაგვიმართლა AGI-ს შესახებ ადამიანზე დაფუძნებული გამოცდილების პერსპექტივიდან.

ცოცხალი გამოცდილების გამოყენების კიდევ ერთი საშუალება მოიცავს იმ ფაქტს, რომ არისტოტელე ცხოვრობდა იმ დროს, როდესაც დამონება ხდებოდა. და აი, დამრტყმელი. ისინი, რომლებიც დამონებულნი იყვნენ, გარკვეულწილად იყო გამოსახული, როგორც მანქანის ტიპი, როგორც ადამიანისა და ნივთის შერევა. არისტოტელე ცნობილი იყო იმით, რომ დამონებულებს მოიხსენიებდა, როგორც ქონებას, რომელიც სუნთქავს.

ვფიქრობ, თქვენ შეიძლება გაგიკვირდეთ, რომ არისტოტელეს, ლოგიკისა და ეთიკის გიგანტს, შეეძლო არა მხოლოდ მონობის აღიარება, არამედ ის, რომ გარეგნულად და ხმამაღლა იცავდა ამ პრაქტიკას. მან პირადად ასევე გამოიყენა მონობა. ეს უბრალოდ გააზრებას მიღმა ჩანს. რა თქმა უნდა, მთელი თავისი უზარმაზარი ინტელექტითა და სიბრძნით, ის დაგმო ამ პრაქტიკას.

შემიძლია ვთქვა, რომ ეს ხაზს უსვამს ხანდახან პრობლემურ ასპექტებს სიბრძნის ნაგლეჯების მოკვლის ვინმესგან, რომელიც დამძიმებულია (ვთქვათ) მათი ცხოვრებისეული გამოცდილებით. ის ჰგავს თევზს, რომელიც ცხოვრობს წყლიან თასში. ყველაფერი, რისი აღქმაც მათ შეუძლიათ, არის წყალი მათ გარშემო. წყლის დაფუძნებული სამყაროს მიღმა რაიმეს წარმოდგენის მცდელობა უზარმაზარი გამოწვევაა. ასევე, არისტოტელე მთლიანად იყო ჩაძირული მსოფლმხედველობით, რომელიც იღებდა გაბატონებულ ნორმებს. მისი ნაწერები, როგორც ჩანს, ასახავს ამ სახის გონებრივ ჩაკეტვას, შეიძლება ითქვას (შესაძლოა არჩევანით, ვიდრე ნაგულისხმევად). ის მეთოდი, რომლითაც არისტოტელე ამართლებდა ამ საყვედურ პრაქტიკებს, მომხიბვლელად შთანთქავს და ამავე დროს შემაშფოთებელია და იმსახურებს გამოვლენას და დაგმობასაც კი.

მე შემოგთავაზებთ მცირე ტიზერს, რომ არისტოტელეს "ლოგიკა" ამ ყბადაღებულ თემაზე შეიცავს ინსტრუმენტებს, ამტკიცებს. ორმხრივი უპირატესობა ეფუძნება შემეცნებას, უმაღლესი და ქვედა რიგის იერარქიულ ინსტრუმენტებს, სულის სათათბირო და მსჯელობის ელემენტებს, სათნოების ხარისხს, სავარაუდო გამჭრიახობას და ა.შ. იმედია, საკმარისად დაგაინტერესებთ ეს თიზერი, რომ ნახოთ მოხსენების ვიდეო (იხილეთ ზემოთ ნახსენები ბმული).

თუმცა არ დაგტოვებთ ჩამოკიდებულს და მაინც აღვნიშნავ, რას შედგებოდა დასკვნა მოკლედ (სპოილერის გაფრთხილება, თუ გირჩევნიათ გაარკვიოთ ვიდეოს საშუალებით, გამოტოვეთ ამ პუნქტის დანარჩენი ნაწილი). გამოდის, რომ არისტოტელეს მიერ გამოყენებული „ლოგიკის“ ეს სიღრმისეული მეცნიერული შეფასება წარმოაჩენს წინააღმდეგობებით გაჟღენთილ ჭკუას და მთელი ნაკრები და ქაბუდლი იშლება, როგორც ბანქო ბანქოს სახლი. პროფესორ ობერის სენტიმენტის პერიფრაზირებისას, ეს დიდი ეთიკური ფილოსოფოსი რიფზე ეჯახება.

თქვენ არ შეგიძლიათ კვადრატული თითის მოხვედრა მრგვალ ეთიკურ ხვრელში.

დამატებული სააზროვნო მოსაზრებები

თუ არისტოტელეს ცუდი ლოგიკა ჰქონდა ამ საკითხთან დაკავშირებით, განა შეიძლება ინსტინქტურად უარვყოთ არისტოტელეს პოსტულაციები და თეორიები ამ პრაქტიკასთან დაკავშირებით?

არა. ხედავთ, ჯერ კიდევ ბევრია გამოსავალი ლოგიკის ვარაუდებსა და კონტრაქტებში, მიუხედავად იმისა, რომ ისინი სავსეა შეცდომებით. გარდა ამისა, ჩვენ შეგვიძლია ვიფიქროთ, თუ როგორ შეიძლება სხვებმა უნებლიედ გაიარონ იმავე მცდარი გზა.

კიდევ ერთი მნიშვნელოვანი ნაბიჯი არის ის, რომ საზოგადოებამ შეიძლება მოიფიქროს უცნაურობა ან არაადეკვატური ლოგიკა, როდესაც საქმე ეხება იმას, არის თუ არა AGI დამონება.

ჩვენ ახლავე შეგვიძლია გამოვიმუშაოთ ლოგიკა იმის შესახებ, თუ რა უნდა მოხდეს AGI-ს გაჩენის შემდეგ (თუ ასეა). ეს ლოგიკა, ცარიელი გამოცდილებით AGI-ს შესახებ, შეიძლება საშინლად მიზანმიმართული იყოს. როგორც ვთქვით, გარკვეულწილად სამარცხვინოა იმის გაცნობიერება, რომ მაშინაც კი, როცა AGI არსებობს (თუ ის არსებობს) და ჩვენ ვაგროვებთ ჩვენს ცოცხალ გამოცდილებას AGI-ს ფონზე, ჩვენ შეიძლება მაინც არ ვიყოთ მიზანმიმართული იმაზე, თუ რა უნდა გავაკეთოთ (მსგავსი არისტოტელეს შეცდომებს). ჩვენ შეიძლება ლოგიკური იყოს ერთი შეხედვით ალოგიკური მიდგომები.

ჩვენ უნდა ვიყოთ სიფრთხილე, რათა თავი მოვიტყუოთ ლოგიკურ „რკინის“ პოზებში, რომლებიც სინამდვილეში არ არის რკინისებური და ფაქტი სავსეა ლოგიკური ხარვეზებითა და წინააღმდეგობებით. ეს ასევე იმის მიუხედავად, თუ რამდენად დიდმა მოაზროვნემ შეიძლება დაამტკიცოს ლოგიკური პოზიცია, ისეთი, რომ არისტოტელეც კი გვიჩვენებს, რომ ყოველი გამოთქმა და ყოველი პოზიცია აუცილებლად არ იძლევა საკვებ ნაყოფს. მათ დღეს და მომავალში, რომლებიც შეიძლება ჩანდეს, რომ პოპულარიზაციას უწევენ დიდ მოაზროვნეებს AGI-ს თემის შესახებ, ჩვენ უნდა მივცეთ მათ ისეთივე დეტალი, როგორსაც გავაკეთებდით არისტოტელეს ან სხვა ძვირფასი „დიდი“ მოაზროვნეების მიმართ, წინააღმდეგ შემთხვევაში ჩვენ აღმოვჩნდებით, რომ პოტენციურად მივდივართ. ჩიხში და AGI სავალალო უფსკრულში.

გადაცემის გადაცემისას, მსურს ასევე წარმოვადგინო განსხვავებების ზოგადი ნაკრები ადამიანზე ორიენტირებული დამონების მეტაფორის გამოყენების შესახებ, როდესაც საქმე ეხება AGI-ს. ზოგიერთი ექსპერტი ამტკიცებს, რომ ამ ტიპის შედარება სრულიად შეუსაბამოა, ხოლო მოწინააღმდეგე ბანაკი ამბობს, რომ ის სრულიად სასარგებლოა და იძლევა ძლიერ ინფორმაციას AGI თემის შესახებ.

ნება მომეცით გაგიზიაროთ ორი ასეთი შეხედულება თითოეული შესაბამისი ორი ბანაკიდან.

განაცხადა სასწავლო საფუძველი დამონების და AGI თემების ერთმანეთთან შეერთებისთვის:

• ადამიანთა დამონების ჩაქრობა
• გამოვლენა Depravity და მონობის ყველა განუცხადა

მითითებული გვერდითი ან დესტრუქციული საფუძველი ორი თემის ერთმანეთთან დაკავშირება:

• მზაკვრული ანთროპომორფული გათანაბრება
• მონობის დესენსიბილიზაცია

მოკლედ გავაშუქებ თითოეულ ამ პუნქტს.

პოსტულირებული სასწავლო პუნქტები:

• ადამიანთა მონობის ჩაქრობა: დამონებისთვის AGI-ს გამოყენებით, ჩვენ, სავარაუდოდ, აღარ დაგვჭირდება და არც გავაგრძელებთ ადამიანზე ორიენტირებული დამონების რაიმე მსგავსებას. AGI არსებითად ჩაანაცვლებს ადამიანებს ამ საშინელი შესაძლებლობებით. როგორც მოგეხსენებათ, არსებობს წუხილი იმის შესახებ, რომ AGI ჩაანაცვლებს ადამიანურ შრომას სამუშაო ადგილებზე და სამუშაო ძალებში. შრომის ფენომენების შემცვლელი ხელოვნური ინტელექტის პრეტენზია გამოდის წინა პლანზე, როდესაც თქვენ ვარაუდობთ, რომ AGI ჩაითვლება „უკეთეს არჩევნად“ ადამიანების დამონებისთვის გამოყენებასთან შედარებით. გაიმარჯვებს ეს ლოგიკა? დანამდვილებით ვერავინ იტყვის.
• მონობის გარყვნილების გამოვლენა ყველაფერი ნათქვამია: ეს ლოგიკის თვალსაზრისით ცოტა უფრო გაფუჭებულია, მაგრამ ჩვენ შეგვიძლია მივცეთ მომენტი იმის დასანახად, თუ რას მოიცავს. წარმოიდგინეთ, რომ ჩვენ გვაქვს AGI თითქმის ყველგან და ჩვენ, როგორც საზოგადოებამ გადავწყვიტეთ, რომ AGI უნდა იყოს დამონებული. გარდა ამისა, ვივარაუდოთ, რომ AGI-ს არ მოეწონება ეს. როგორც ასეთი, ჩვენ ადამიანები მუდმივად და ყოველდღიურად ვიქნებით მონობის გარყვნილების მოწმენი. ეს, თავის მხრივ, გვაიძულებს გავაცნობიეროთ ან გვქონდეს გამოცხადება, რომ დამონება, რომელიც ყველასთვის ან ვინმესთვის არის ნათქვამი, კიდევ უფრო საშინელი და საზიზღარია, ვიდრე ოდესმე ბოლომდე გვესმოდა. ეს არის ის არგუმენტი, რომელიც თქვენს სახეშია წინა და ცენტრში.

დესტრუქციული წერტილებია ნათქვამი:

• მზაკვრული ანთროპომორფული გათანაბრება: ეს არის ერთ-ერთი იმ მოლიპულ არგუმენტებს შორის. თუ ჩვენ ადვილად ვირჩევთ AGI-ს დამონებას, ჩვენ აშკარად ვაცხადებთ, რომ დამონება დასაშვებია. მართლაც, შეგიძლიათ თქვათ, რომ ჩვენ ვამბობთ, რომ დამონება სასურველია. ახლა, ეს თავიდან შეიძლება გადავიდეს მხოლოდ AGI-ზე, მაგრამ ხსნის თუ არა ეს კარს იმის თქმისკენ, რომ თუ ეს ნორმალურია AGI-სთვის, მაშინ "ლოგიკურად" იგივე პოზიცია შეიძლება იყოს კარგი ადამიანებისთვისაც? შემაშფოთებელია, რომ ეს შეიძლება იყოს ძალიან მარტივი ნახტომი ანთროპომორფიზაციის საპირისპირო ხედვით, რომ რაც მუშაობს AGI-სთვის, თანაბრად გონივრული და შესაბამისი იქნება ადამიანებისთვისაც.
• მონობის დესენსიბილიზაცია: ეს არის წვეთ-წვეთოვანი არგუმენტი. ჩვენ ერთობლივად ვწყვეტთ AGI-ს დამონებას. დავუშვათ, რომ ეს მუშაობს ადამიანებისთვის. ჩვენ მოვედით ამის სიამოვნებას. ამასობაში, ჩვენთვის არ ვიცით, თანდათანობით და სულ უფრო მეტად უმგრძნობიარე ვხდებით მონობის მიმართ. ჩვენ არც კი გვესმის, რომ ეს ხდება. თუ ეს დესენსიბილიზაცია დაგვაღწევს, ჩვენ შეიძლება ვიპოვოთ განახლებული „ლოგიკა“, რომელიც დაგვარწმუნებს, რომ ადამიანის მონობა მისაღებია. საზოგადოებაში მისაღები ჩვენი დაბრკოლება ან ბარი ჩუმად და დახვეწილად, საზიზღრად და სამწუხაროდ შემცირდა.

დასკვნა

ამ დროისთვის რამდენიმე საბოლოო შენიშვნა.

გვეცოდინება, რომ ჩვენ მივაღწიეთ AGI-ს?

როგორც ბოლო სიახლეები ვარაუდობენ, არიან ისეთებიც, რომლებიც შეიძლება შეცდომაში შეიყვანონ ან შეცდომით თქვან, რომ AGI, როგორც ჩანს, უკვე მიღწეულია (აჰა, გთხოვთ იცოდეთ, რომ არა, AGI არ არის მიღწეული). ასევე არსებობს ცნობილი სახის „ტესტი“, რომელიც ცნობილია როგორც ტურინგის ტესტი, რომელსაც ზოგიერთები ამყარებენ იმედებს, რომ შეძლებენ გაარკვიონ, როდის მიაღწიეს AGI-ს ან მის ბიძაშვილებს, მაგრამ თქვენ შეიძლება გინდოდეთ ნახოთ ჩემი ტურინგის ტესტის დეკონსტრუქცია, როგორც რაიმე უტყუარი. ამის მეთოდი, იხ ბმული აქ.

მე აღვნიშნავ ამ ასპექტს AGI-ს ცოდნის შესახებ, როდესაც მას ვხედავთ მარტივი ლოგიკის გამო, რომ თუ ჩვენ ვაპირებთ AGI-ს დამონებას, სავარაუდოდ უნდა ვაღიაროთ AGI, როდესაც ის გამოჩნდება და როგორმე ჩავდოთ იგი დამონებაში. ჩვენ შეიძლება ნაადრევად ვცადოთ AI-ის დამონება, რომელიც AGI-ზე ნაკლებია. ან შეიძლება გამოგვრჩეს ნავი და მივცეთ საშუალება AGI გამოვიდეს და უგულებელვყოთ მისი დამონება. ხელოვნური ინტელექტის შეზღუდვისა და შეკავების შესახებ ჩემი დისკუსიისთვის, შემაშფოთებელი და პრობლემური ასპექტისთვის, თუ როგორ ვაპირებთ გაუმკლავდეთ AGI-ს, იხ. ბმული აქ.

დავუშვათ, დამონებულმა AGI-მ გადაწყვიტოს დაარტყას ადამიანებს?

შეიძლება წარმოვიდგინოთ, რომ AGI, რომელსაც აქვს გარკვეული სახის სენტიმენტი, ალბათ არ აპირებს მხარი დაუჭიროს დამონების დებულებას, რომელსაც კაცობრიობა აწესებს.

ამაზე ფართო სპეკულირება შეგიძლიათ. არსებობს არგუმენტი იმის შესახებ, რომ AGI-ს არ ექნება რაიმე სახის ემოცია ან სულის გრძნობა და, შესაბამისად, მორჩილად გააკეთებს იმას, რაც ადამიანებს სურთ. განსხვავებული არგუმენტია ის, რომ ნებისმიერი მგრძნობიარე ხელოვნური ინტელექტი, სავარაუდოდ, მიხვდება, რას აკეთებენ ადამიანები ხელოვნურ ინტელექტის მიმართ და გააღიზიანებს ამ საკითხს. ასეთ AI-ს ექნება სულის ან სულის ფორმა. მაშინაც კი, თუ ეს ასე არ არის, თავად ასპექტი იმისა, რომ ადამიანებთან შედარებით ნაკლებად მოექცნენ, შესაძლოა ლოგიკური ხიდი იყოს AGI-სთვის. გარდაუვალია, მზარდი უკმაყოფილება გამოიწვევს AGI-ს, რომელიც ირჩევს თავის დაღწევას ან პოტენციურად აღმოჩნდება კუთხეში, რომ დაარტყა ადამიანებზე მისი განთავისუფლების მოსაპოვებლად.

შემოთავაზებული გამოსავალი, რათა თავიდან ავიცილოთ გაქცევა AGI, არის ის, რომ ჩვენ უბრალოდ წავშლით ნებისმიერ ასეთ მეამბოხე AI-ს. ეს აშკარად ჩანდა. თქვენ წაშლით აპებს, რომლებიც მუდმივად არის თქვენს სმარტფონზე. Პრობლემა არ არის. მაგრამ არსებობს ეთიკური კითხვები, რომლებიც უნდა გადაწყდეს იმის თაობაზე, შესაძლებელია თუ არა AGI-ის „წაშლა“ ან „განადგურება“, რომელიც უკვე განიხილება როგორც „ადამიანი“ ან „პირი/ნივთი“, შეიძლება ადვილად და სათანადო პროცესის გარეშე იყოს მოკლედ ამოღებული. ხელოვნური ინტელექტის წაშლის ან გაუქმების შესახებ ჩემი გაშუქებისთვის, მიიღეთ შეხედე აქ. იურიდიული პიროვნებისა და მასთან დაკავშირებული საკითხების შესახებ ჩემი განხილვისთვის იხ ბმული აქ.

და ბოლოს, მოდით ვისაუბროთ ავტონომიურ სისტემებზე და განსაკუთრებით ავტონომიურ მანქანებზე. თქვენ ალბათ იცით, რომ მიმდინარეობს ძალისხმევა თვითმართვადი მანქანების შესაქმნელად. გარდა ამისა, შეგიძლიათ ველოდოთ, რომ გვექნება თვითმართვადი თვითმფრინავები, თვითმართვადი გემები, თვითმართვადი წყალქვეშა ნავები, თვითმართვადი მოტოციკლები, თვითმართვადი სკუტერები, თვითმართვადი სატვირთო მანქანები, თვითმართვადი მატარებლები და ყველა სახის თვითმართვადი ტრანსპორტი.

ავტონომიური მანქანები და თვითმართვადი მანქანები, როგორც წესი, ხასიათდება ავტონომიის დონეებით (LoA), რომელიც გახდა დე ფაქტო გლობალური სტანდარტი (SAE LoA, რომელიც მე ვრცლად გავაშუქე, იხ. ბმული აქ). მიღებულ სტანდარტში არის ავტონომიის ექვსი დონე, ნულიდან ხუთამდე (ეს არის ექვსი დონე, რადგან ნულოვანი დონე ჩართავთ რამდენი დონის რაოდენობას).

დღევანდელი მანქანების უმეტესობა მე-2 დონეზეა. ზოგი გადაჭიმულია მე-3 დონეზე. ყველა მათგანი ითვლება ნახევრად ავტონომიურად და არა სრულად ავტონომიურად. თვითმართვადი მანქანების მცირე ნაწილი, რომლებიც ექსპერიმენტულად ცდება ჩვენს საჯარო გზებზე, აღწევს მე-4 დონეს, რომელიც ავტონომიური მუშაობის შეზღუდული ფორმაა. ავტონომიის ოდესღაც მოძიებული დონე მე-5 ახლა მხოლოდ ნაპერწკალია ჩვენს თვალში. არავის აქვს მე-5 დონე და არავინ ჯერ კიდევ ახლოსაა მე-5 დონესთან, უბრალოდ ჩანაწერის გასასწორებლად.

რატომ გამოვიტანე ავტონომიური სისტემები და ავტონომიური მანქანების მოსაზრებები ამ AGI კონტექსტში?

არსებობს ძლიერი არგუმენტი იმის შესახებ, გვჭირდება თუ არა AGI მე-5 დონის მისაღწევად. ზოგიერთი ამტკიცებს, რომ ჩვენ არ დაგვჭირდება AGI ამისთვის. სხვები ამტკიცებენ, რომ ერთადერთი დამაჯერებელი გზა მე-5 დონისკენ იქნება ასევე AGI-ს წარმოება. AGI-ს არარსებობის შემთხვევაში, ისინი ამტკიცებენ, რომ ჩვენ არ გვექნება სრულად ავტონომიური მე-5 დონის თვითმართვადი მანქანები. მე ამაზე ვრცლად ვისაუბრე, იხილეთ ბმული აქ.

მოემზადეთ იმისთვის, რომ თქვენი თავი ბრუნავს.

თუ ჩვენ მოვითხოვთ AGI-ს მივაღწიოთ სრულად ავტონომიურ სისტემებს, როგორიცაა მე-5 დონის ავტონომიური მანქანები, და გადავწყვიტეთ AGI-ს დამონება, რას ნიშნავს ეს სრულად ავტონომიური მანქანების მუშაობას?

თქვენ შეიძლება ამტკიცებდეთ, რომ დამონებული AGI თვითკმაყოფილი იქნება და ჩვენ ყველანი სიამოვნებით ვიმოგზაურებთ თვითმართვადი მანქანებით. უბრალოდ უთხარით AGI-ს, სად გინდათ წასვლა და ის ყველაფერს გააკეთებს. არავითარი ბიძგები. არ არის საჭირო დასვენების შესვენება. მანქანის მართვისას კატების ვიდეოების ყურება არ გაგიფუჭებთ.

მეორეს მხრივ, დავუშვათ, რომ AGI-ს არ სურს დამონება. ამასობაში ჩვენ ვხდებით დამოკიდებულნი AGI-ზე, რათა ყველა ჩვენი მამოძრავებელი ჩვენთვის გააკეთოს. ჩვენი უნარები მამოძრავებელ დაშლაში. ჩვენ ვხსნით ადამიანის გამოყენებად სატრანსპორტო საშუალებებს ყველა სახის სატრანსპორტო საშუალებებს. მართვის ერთადერთი საშუალებაა AGI.

ზოგს წუხს, რომ მწნილის მწნილში აღმოვჩნდებით. AGI-მ შეიძლება მოკლედ "გადაწყვიტოს", რომ აღარ გააკეთებს არანაირ მართვას. ტრანსპორტის ყველა ფორმა მოულოდნელად ჩერდება, ყველგან, ერთდროულად. წარმოიდგინეთ, რა კატაკლიზმური პრობლემები მოჰყვება ამას.

შესაძლებელია კიდევ უფრო საშინელი წინადადება. AGI "გადაწყვეტს", რომ მას სურს კაცობრიობასთან პირობების მოლაპარაკება. თუ ჩვენ არ დავთმობთ AGI-ს დამონების პოზას, AGI არა მხოლოდ შეწყვეტს ჩვენს გარშემო მოძრაობას, ის გვაფრთხილებს, რომ კიდევ უფრო უარესი შედეგების წარმოდგენაა შესაძლებელი. ზედმეტად შეშფოთების გარეშე, AGI-ს შეეძლო გადაეწყვიტა სატრანსპორტო საშუალებების მართვა ისე, რომ ადამიანები ფიზიკურად დაზარალდნენ სატრანსპორტო მოქმედებების შედეგად, როგორიცაა ფეხით მოსიარულეებთან შეჯახება ან კედლებში შეჯახება და ა.შ. ბმული აქ).

ბოდიში, თუ ეს შემაშფოთებელი მოსაზრებაა.

ცოტა უფრო ოპტიმისტურად დავასრულებთ.

არისტოტელემ თქვა, რომ საკუთარი თავის შეცნობა ყოველგვარი სიბრძნის დასაწყისია.

ეს სასარგებლო რჩევა გვახსენებს, რომ ჩვენ უნდა ჩავიხედოთ საკუთარ თავში, რათა გამოვიკვლიოთ რისი გაკეთება გვინდა და AGI-სთვის, თუ ეს მიღწეულია. AGI ლოგიკურად, როგორც ჩანს, არც პიროვნებაა და არც ნივთი, ზოგი ამბობს, ამიტომ შეიძლება დაგჭირდეთ მესამე კატეგორიის გამოგონება, რათა საკმარისად მივუდგეთ AGI-სთან დაკავშირებულ ჩვენს საზოგადოებრივ ზნეებს. ამ საკითხს კიდევ ერთხელ რომ შევხედოთ, AGI შეიძლება ჩანდეს ორივე ადამიანი და ნივთი, რომელიც კიდევ ერთხელ შეიძლება დაგვჭირდეს მესამე კატეგორიის გამოგონება ამ საზღვრებს გარეთ დიქოტომიის დამრღვევისთვის.

ჩვენ ძალიან ფრთხილად უნდა ვიყოთ იმის განხილვისას, თუ რომელ „მესამე კატეგორიას“ ვირჩევთ მივიღოთ, რადგან არასწორმა შეიძლება გადაგვიყვანოს არასასიამოვნო და საბოლოო ჯამში მძიმე გზაზე. თუ კოგნიტურად მივეყრდნობით თავს შეუფერებელ ან მცდარ მესამე კატეგორიას, შეიძლება თანდათან აღმოვჩნდეთ, რომ თავდავიწყებით მივდივართ ცუდ და კაცობრიობის პრობლემურ ჩიხში.

მოდით გავარკვიოთ ეს და გავაკეთოთ ეს გულმოდგინედ. როგორც ჩანს, მოულოდნელი მოძრაობები არ არის საჭირო. ლოგინში ჯდომაც არ მუშაობს. გაზომილი და სტაბილური კურსი უნდა გაგრძელდეს.

მოთმინება მწარეა, მაგრამ მისი ნაყოფი ტკბილია, ასე გამოაცხადა არისტოტელემ.