ხელოვნური ინტელექტის ეთიკა ფრთხილად შეაფასებს, არის თუ არა გონივრული თუ უშედეგო AI მიკერძოების შეთავაზება ნადირობის ბონუსების დასაჭერად და დასაჭერად

სასურველი: AI მიკერძოებულ მონადირეებს.

ეს შეიძლება იყოს თანამედროვე რეკლამა, რომელიც გამოჩნდება სოციალური მედიის არხებზე და გამოჩნდება სხვადასხვა ონლაინ ვაკანსიებში. ეს შედარებით ახალი კონცეფცია ან როლია. თან კამათს ატარებს. ზოგიერთი მგზნებარე მორწმუნე მხურვალედ ამტკიცებს, რომ ეს საკმაოდ ლოგიკურია და უნდა მომხდარიყო მთელი ამ ხნის განმავლობაში, ზოგი კი ნერვიულად აკეთებს სერიოზულ თავს და არც ისე დარწმუნებულია, რომ ეს კარგი იდეაა.

როლის არსი შედგება ხელოვნური ინტელექტისგან ნებისმიერი ფარული მიკერძოების ან ჩაშენებული დისკრიმინაციული პრაქტიკის გამოდევნაში. სამაშველოში მოდიან მონდომებული და საერთოდ ადრე AI მიკერძოებული მონადირეები. ისინი, სავარაუდოდ, კომპიუტერზე მცოდნე მონადირეები იქნებოდნენ. უფრო მეტიც, იმედია, ჩაფლული AI შესაძლებლობების სიღრმეში.

გქონდეთ იარაღი, იმოგზაურებთ და შეძლებთ ხელოვნური ინტელექტის დახელოვნების უნარის წყალობით გამოავლინოთ ეს არასასიამოვნო და არასასურველი AI მიკერძოება.

ეს ბადებს უამრავ ეკლიან კითხვებს ასეთი ტაქტიკის გატარების მგრძნობელობის შესახებ, როდესაც საქმე ეხება ხელოვნური ინტელექტის მიკერძოების აღმოჩენას. როგორც მე განვიხილავ მომენტალურად, გთხოვთ იცოდეთ, რომ ხელოვნური ინტელექტის გამოჩენამ ასევე მოიტანა ხელოვნური ინტელექტის მიკერძოება. AI მიკერძოების ნიაღვარი. AI ეთიკისა და ეთიკური AI-ის მიმდინარე და ვრცელი გაშუქებისთვის იხ ბმული აქ მდე ბმული აქ, უბრალოდ ასახელებს რამდენიმე.

როგორ უნდა აღმოვაჩინოთ, რომ კონკრეტულ AI სისტემას აქვს მიკერძოება?

თქვენ შეიძლება ენდოთ AI დეველოპერებს, რომლებმაც შეიმუშავეს AI ამის გაკეთება. საქმე იმაშია, რომ ისინი შეიძლება ისე იყვნენ ჩაფლულნი მიკერძოებებში, რომ თავად ვერ ცნობენ მიკერძოებებს თავიანთი შეთხზული AI-ში. ეს ყველაფერი კარგად გამოიყურება მათთვის. ან ისინი შეიძლება იმდენად აღფრთოვანებულნი იყვნენ ხელოვნური ინტელექტის გამო და ჰქონდეთ საკუთარი თავის სიამაყის გრძნობა ამის შესახებ, რომ შემდეგ კრიტიკული თვალის დევნება მის მიკერძოებაზე შესამოწმებლად რთული და რეალური დამღუპველი იქნება. ბევრი სხვა ასეთი მიზეზი შეიძლება აფერხებდეს ხელოვნური ინტელექტის დეველოპერებს ამ ამოცანის შესრულებას, მათ შორის ჩაშენებული მიკერძოებების გასარკვევად უნარების ნაკლებობა, პროექტში დროის ნაკლებობა და ა.შ.

კარგი, ასე რომ, წადით და დაიქირავეთ გარე კონსულტანტები, რომ შეასრულონ ბინძური სამუშაო თქვენთვის. გამოდის, რომ კონსულტანტები სიამოვნებით შეამოწმებენ თქვენს AI-ს მიკერძოებულობის გამო, და ამისთვის საკმაოდ დიდ პენსს დაგირიცხავთ (ბევრი და ბევრი პენი). გააცნობიერეთ, რომ თქვენ უნდა გადაიხადოთ ისინი იმისთვის, რომ დააჩქარონ თქვენი AI სისტემა. შემდეგ თქვენ უნდა ატაროთ ისინი გარშემო, რასაც შეიძლება დასჭირდეს ძვირადღირებული შრომატევადი საათები. კონსულტანტების გამოყენება არის ვარიანტი, თუ ამისათვის ბიუჯეტი გაქვთ.

იმ პოტენციურ „უფსკრულის“ შესახებ, თუ როგორ უნდა იპოვოთ ხელოვნური ხელოვნური ინტელექტის მზაკვრული მიკერძოება, მოდიან გმირული და გამბედავი ხელოვნური ინტელექტის მიკერძოება ბონუსებზე მონადირეები.

თქვენ ჩვეულებრივ არ იხდით მათ წინასწარ. ისინი ცდილობენ იპოვონ ხელოვნური ინტელექტის მიკერძოება თავის დროზე და საკუთარი გადასახადების გადახდა უწევთ. მხოლოდ იმ შემთხვევაში, თუ ისინი წარმატებით აღმოაჩენენ მიკერძოებას, იღებენ ხელფასს. ვფიქრობ, თქვენ შეგეძლოთ მარტივად ამტკიცებდეთ, რომ სათანადო აზროვნებით, ეს არის პრემიაზე მონადირის ჩვეულებრივი განმარტება. მიიღე ანაზღაურება თუ წარმატებას მიაღწევ. ნუ მიიღებთ ანაზღაურებას, თუ არ ხართ წარმატებული. პერიოდი, მოთხრობის დასასრული.

Bounty პროგრამები არსებობდა სულ მცირე რომაელთა დროიდან და, ამრიგად, შეიძლება ვივარაუდოთ, რომ ისინი მუშაობენ და წარმატებით გაუძლეს როგორც პრაქტიკას მთელი ამ წლების განმავლობაში.

აქ არის თქვენთვის საინტერესო ისტორიული წვრილმანი. გავრცელებული ინფორმაციით, რომის იმპერიის დროს გამოქვეყნებულ შეტყობინებაში ქალაქ პომპეიში ნათქვამია, რომ ძვირფასი მონადირეები სჭირდებოდათ სპილენძის ქოთნის საპოვნელად, რომელიც დაიკარგა პატარა მაღაზიიდან. სპილენძის ქოთნის აღდგენის ჯილდო იყო შთამბეჭდავი პრიზი სამოცდათხუთმეტი ბრინჯაოს მონეტა. ბოდიშს გიხდით, რომ ჩვენ არ ვიცით, იპოვა თუ არა რომელიმე მონადირემ სპილენძის ქოთანი და მოითხოვა ბრინჯაოს მონეტები, მაგრამ ვიცით, რომ ნადირობაზე ნადირობა ნამდვილად გაგრძელდა იმ უძველესი დროიდან.

უფრო თანამედროვე დროში, თქვენ შეიძლება იცოდეთ, რომ 1980-იან წლებში არსებობდა რამდენიმე მნიშვნელოვანი ბონუსები, რომლებიც შესთავაზეს კომპიუტერის შეცდომების ან შეცდომის პოვნას თაროზე მოთავსებულ პროგრამულ პაკეტებში, შემდეგ კი 1990-იან წლებში Netscape მკვეთრად შესთავაზა ბონუსს მათი ვებ ბრაუზერში შეცდომების აღმოსაჩენად. (იქცევა იმ დღის ერთ-ერთ ყველაზე გამორჩეულ ფირმად). გუგლმა და ფეისბუქმა თითოეულმა აირჩიეს 2010 და 2013 წლებიდან დაწყებული შეცდომებზე ნადირობისკენ. რამდენიმე წლის შემდეგ, 2016 წელს, აშშ-ს თავდაცვის დეპარტამენტიც კი ჩაერთო ამ საქციელში „Hack the Pentagon“-ის ბონუსების მცდელობით (გაითვალისწინეთ, რომ საჯაროდ ორიენტირებული ბონუსები იყო DoD-თან დაკავშირებულ სხვადასხვა ვებსაიტებზე ნაპოვნი შეცდომებისთვის და არა თავდაცვის მისიის კრიტიკული სისტემები).

მოდით უფრო ღრმად ჩავუღრმავდეთ bug bounty თემას. მე მესმის, რომ ამ დისკუსიაში ძირითადად მიზნად ისახავს ვისაუბრო ხელოვნური ინტელექტის მიკერძოებაზე ბონუსზე ნადირობისას, მაგრამ არსებობს საკმაოდ მნიშვნელოვანი პარალელები შეცდომების თაობაზე.

ზოგიერთს აშკარად უკვირს, რომ ნებისმიერ ფირმას სურს შესთავაზოს ბონუსები, რათა აღმოაჩინოს შეცდომები (ან, ამ შემთხვევაში, AI მიკერძოება) მათ სისტემებში.

გარეგნულად, როგორც ჩანს, „თქვენ ამას ითხოვთ“ სახის სტრატეგიას. თუ მსოფლიოს აცნობებთ, რომ მიესალმებით მათ, ვინც შესაძლოა შეეცადოს თქვენს პროგრამულ უზრუნველყოფაში ხვრელების პოვნას, როგორც ჩანს, ტოლფასია ქურდების თქმის, რომ წავიდნენ და შეეცადონ თქვენს სახლში შეჭრას. მაშინაც კი, თუ უკვე გჯერათ, რომ თქვენ გაქვთ საკმაოდ კარგი ქურდობის განგაშის სისტემა და რომ ვერავინ შეძლებს თქვენს დაცულ სახლში შეღწევას, წარმოიდგინეთ, რომ სთხოვეთ და ევედრებით მძარცველებს, რომ ყველა ჩამოვიდნენ თქვენს საცხოვრებელ ადგილას და დაინახონ, შეძლებენ თუ არა. ბზარი მასში. ოჰ, უბედურება, რომელსაც ჩვენ თვითონ ვქსოვთ.

იგივე შეიძლება ითქვას ბონუსებზე მონადირეებისთვის თქვენს AI-ში მიკერძოების პოვნაზე.

პირველი, ეს შესაძლოა გულისხმობს, რომ თქვენ უკვე გჯერათ ან თუნდაც აშკარად იცით, რომ თქვენს AI-ს აქვს მიკერძოება. ეს არის შოკისმომგვრელი ცალსახა ნაგულისხმევი აღიარება, რომლის გაკეთების სურვილიც ცოტაა და შესაძლოა უკუშედეგი იყოს.

მეორე, თქვენ ზუსტად არ იცით, რა შეიძლება გააკეთონ ამ ბონუსებზე მონადირეებმა. მათ შეუძლიათ მთელ მსოფლიოს უთხრან, რომ თქვენს AI-ში მიკერძოება აღმოაჩინეს. შეიძლება ვივარაუდოთ, რომ ამან შეიძლება დაკარგოს ბონუსის მიღება, თუმცა ზოგიერთს შეიძლება მოეწონოს ყურადღება ან მიზნად ისახავს გააძლიეროს საკონსულტაციო კონცერტები და სხვა შემოსავლის მომტანი შესაძლებლობები. ეს შეიძლება იყოს სრულიად ალტრუისტული. ეს შეიძლება იყოს ხელოვნური ინტელექტის აქტივიზმის ფორმა. შემიძლია გავაგრძელო.

მესამე, შეიძლება მთელი საქმის მზაკვრული გადახვევა იყოს. ბონუსებზე მონადირე, რომელიც ამტკიცებს, რომ ეძებს ხელოვნური ინტელექტის მიკერძოებას, შესაძლოა ეშმაკურად იბრძოდეს, რათა მოძებნოს გზები თქვენს AI სისტემაზე თავდასხმისთვის. ყოველივე ეს არის შარადა, რომ საბოლოოდ განხორციელდეს მძიმე კიბერშეტევა. შეიძლება გეგონებოდათ, რომ ისინი დახმარებას ცდილობდნენ, მაშინ როცა მათ გულში არასწორი ქმედება აქვთ. სამწუხაროა, მაგრამ შესაძლებელია.

მეოთხე, ჩვენ შეგვიძლია კიდევ უფრო ეშმაკურად მოვიქცეთ ამ საკითხზე. ბონუსებზე მონადირე აღმოაჩენს უხერხულ და პოტენციურად სარჩელის გამომწვევ AI მიკერძოებას. ბონუტი არის დოლარების გარკვეული რაოდენობა, რომელსაც ჩვენ დავარქმევთ X. პრემიის მოთხოვნის ნაცვლად, ბონუსებზე მონადირე აკეთებს ერთგვარ უცნაურ გამოსასყიდის პროვოკაციას. თუ ბონუტი მონადირეს გადაუხდით ათჯერ X ან შესაძლოა ცის ლიმიტს, ისინი გეტყვიან ხელოვნური ინტელექტის მიკერძოების შესახებ. თქვენ უნდა უპასუხოთ კვირას, შუაღამემდე. დროის ამ მომენტის შემდეგ, ხელოვნური ინტელექტის მიკერძოება გამოვლინდება ყველას დასანახად. დიახ, საშინელ ვითარებაში ყოფნა.

მეხუთე, უახლესი არის ეგრეთ წოდებული „გატეხვა, რომ დაბრუნდეს“ კიბერმძღოლები, რომლებიც ონლაინ ცომის თაიგულის მოპარვის შემდეგ გადაწყვეტენ მოინანიონ და უკანონოდ მიღებული ნადავლის უკან დაბრუნება, რომელიც მათ წაართვეს. კომპანია, რომელიც იღებს თავის ფულს ნაწილობრივ უბრუნდება, შემდეგ მზად არის განიხილოს დარჩენილი მოპარული თანხა, როგორც ქურდებისთვის დაჯილდოვებული ფაქტობრივი სიკეთე. როგორც ჩანს, ყველა "იმარჯვებს" იმით, რომ თანხების უმეტესი ნაწილი უბრუნდება და იმავდროულად კიბერთაღლითები ლეგალურად არ იდევნებიან, გარდა ამისა, ისინი იღებენ მეკობრეების ბონუსს. არის ეს წინდახედული თუ მზაკვრულად მაცდუნებელი უკანონო ქმედებები?

მე მესმის, რომ ზოგიერთი თქვენგანი შეიძლება ამბობდეს, რომ არავინ არ უნდა გამოუშვას ხელოვნური ინტელექტი, რომელსაც აქვს რაიმე მიკერძოება. ეს, როგორც ჩანს, გადაჭრის ამ დილემას იმის შესახებ, გამოიყენონ თუ არა ხელოვნური ინტელექტის მიკერძოება მონადირეებზე. უბრალოდ, ნუ ჩავარდებით თავს ბონუსულ სიტუაციაში. დარწმუნდით, რომ თქვენი AI დეველოპერები აკეთებენ სწორად და არ დაუშვებენ AI მიკერძოებას მათ AI სისტემებში. შესაძლოა გამოიყენოთ კონსულტანტები ორმაგი შემოწმების გასაკეთებლად. არსებითად, გააკეთეთ ყველაფერი, რაც გჭირდებათ, რათა თავიდან აიცილოთ ფიქრი ან სთხოვოთ AI მიკერძოებულ ბონუსებზე მოსვლა მაგიდასთან.

დიახ, ეს სრულიად გონივრულად გამოიყურება. პრობლემა ის არის, რომ ის ასევე ცოტა მეოცნებეა. ბევრი ხელოვნური ინტელექტის სისტემის სირთულე იმდენად დიდია, რომ მცდელობა იმის უზრუნველსაყოფად, რომ ხელოვნური ინტელექტის მიკერძოების არც ერთი უნცია არ აღმოჩნდეს, რთული იქნება. გარდა ამისა, ზოგიერთი ხელოვნური ინტელექტის სისტემა მიზანმიმართულად არის შემუშავებული, რათა დარეგულირდეს და „ისწავლოს“ მათთან ერთად. ეს ნიშნავს, რომ დროის გარკვეულ მომენტში თქვენს მიერ შემუშავებული ხელოვნური ინტელექტი, რომელიც თავიდან ვივარაუდოთ, რომ იყო სუფთა და მიკერძოების გარეშე, შესაძლოა მიზიდულობისკენ მიისწრაფოდეს მიკერძოების განსახიერებაზე (ამას არ ვგულისხმობ ანთროპომორფულად, როგორც ამას შემდგომში აგიხსნით. გადადით ამ თემაზე).

ისინი, ვინც მხარს უჭერენ პროგრამულ შეცდომებზე ნადირობას, მიდრეკილნი არიან ამტკიცებენ, რომ აზრი აქვს ასეთი სიკეთის შეთავაზებას. ჩვენ შეგვიძლია განვიხილოთ მათი დასაბუთება და ვნახოთ, ეხება თუ არა ის ხელოვნური ინტელექტის მიკერძოების სფეროს.

შეცდომების სიკეთის მომხრეები ხაზს უსვამენ, რომ იმის ნაცვლად, რომ ცდილობდეთ პრეტენზიას, რომ თქვენს სისტემაში ხვრელები არ არის, რატომ არ წაახალისოთ ხვრელების პოვნა, ამის გაკეთება „კონტროლირებული“ გზით? ამის საპირისპიროდ, ასეთი სიკეთის ძალისხმევის გარეშე, შეგიძლიათ უბრალოდ იმედი გქონდეთ და ილოცოთ, რომ შემთხვევითი შემთხვევით ვერავინ იპოვის ხვრელს, მაგრამ თუ ამის ნაცვლად თქვენ სთავაზობთ სიკეთეს და ეტყვით მათ, ვინც ხვრელს იპოვის, რომ ისინი დაჯილდოვდებიან, ის გთავაზობთ შესაძლებლობა, შემდეგ გააფართოვოთ ხვრელი საკუთარ თავზე და შემდეგ ხელს უშლის სხვებს ფარულად იპოვონ იგი დროის გარკვეულ მომენტში.

იგივე შეიძლება ითქვას ხელოვნური ინტელექტის მიკერძოების გამოყენების შემთხვევაში. თუ თქვენ შესთავაზებთ საკმარის ბონუსს, იმედია, ბონუსებზე მონადირეები თქვენს ყურადღებას გაამახვილებენ ხელოვნური ინტელექტის მიკერძოების აღმოჩენაზე. ამის შემდეგ შეგიძლიათ გაუმკლავდეთ AI მიკერძოებას შედარებით ჩუმად და გაზომილი გზით. ამან შეიძლება თავიდან აიცილოს ბევრად უფრო დიდი და საშიში პრობლემა მოგვიანებით, კერძოდ, რომ ვიღაც სხვა აღმოაჩენს AI-ის მიკერძოებას თქვენს AI-ში და ყვირის ამის შესახებ მაღალ ცაში.

ზოგადად, ფირმა, რომელსაც სურს გაააქტიუროს ხარვეზებზე ნადირობის ძალისხმევა, დანერგავს დაუცველობის გამჟღავნების პოლიტიკას (VDP). VDP მიუთითებს, თუ როგორ უნდა იპოვონ შეცდომები და შეატყობინონ ფირმას, ასევე, როგორ გადაეცემა მონადირეს ჯილდო ან სიკეთე. ჩვეულებრივ, VDP მოითხოვს, რომ მონადირემ ხელი მოაწეროს არა-გამჟღავნების ხელშეკრულებას (NDA) ისე, რომ ისინი არ გაუმჟღავნონ სხვებს, რაც იპოვეს.

NDA-ის გამოყენების ცნებას ბონუსებზე მონადირეებთან აქვს გარკვეული წინააღმდეგობა. მიუხედავად იმისა, რომ შესაძლოა გონივრული იყოს კომპანიისთვის, რომელიც სთავაზობს ბონუსს, სურს დედას შეინარჩუნოს აღმოჩენილი ექსპოზიციები, ასევე ნათქვამია, რომ ახშობს საერთო ცნობიერებას ასეთი შეცდომების შესახებ. სავარაუდოდ, თუ პროგრამულ შეცდომებზე დაშვებული იქნება საუბარი, ეს პოტენციურად ხელს შეუწყობს სხვა სისტემების უსაფრთხოებას სხვა ფირმებში, რომლებიც შემდეგ გააძლიერებენ მათ ექსპოზიციას. ზოგიერთი ბონუსზე მონადირე არ მოაწერს ხელს NDA-ს, ნაწილობრივ საზოგადოების სურვილის გამო და ნაწილობრივ საკუთარი იდენტობის დამალვის მცდელობის გამო. ასევე გაითვალისწინეთ, რომ NDA ასპექტი ჩვეულებრივ არ ჩნდება მანამ, სანამ მონადირე არ ირწმუნება, რომ მათ იპოვეს შეცდომა, ვიდრე ამას წინასწარ მოითხოვენ.

ზოგიერთი VDP ადგენს, რომ NDA არის მხოლოდ შეზღუდული დროით, რაც საშუალებას აძლევს ფირმას ჯერ მოძებნოს გამოსავალი აშკარა ხვრელისთვის და შემდეგ დაუშვას ამის შესახებ უფრო ფართო გამჟღავნება. ხვრელის ჩაკეტვის შემდეგ, ფირმა საშუალებას აძლევს NDA-ის შესუსტებას, რათა დანარჩენმა მსოფლიომ იცოდეს შეცდომის შესახებ. ნადირობაზე ნადირობაზე ტიპიური დროა დაახლოებით 15-20 დღე, როდესაც ფირმას სურს მისი დაუყონებლივ შეერთება, ხოლო სხვა შემთხვევებში შეიძლება გაგრძელდეს 60-80 დღემდე. ბონუსებზე მონადირის გადახდის თვალსაზრისით, ე.წ. გადახდის დრო, მას შემდეგ რაც ხვრელი დადასტურდება, როგორც რეალურად არსებული, გავრცელებული ინფორმაციით, ბონუსების გადახდა იქნება დაახლოებით 15-20 დღეში მცირე შემთხვევებისთვის და დაახლოებით 50-60 დღეები უფრო დიდი შემთხვევებისთვის (ეს მუდმივად იცვლება ინდუსტრიის ჩვენებები და მხოლოდ საილუსტრაციოდ არის ნახსენები).

უნდა სთხოვონ თუ არა ხელოვნური ინტელექტის მიკერძოება ბონუსებზე მონადირეებს მონაწილეობა მიიღონ VDP-ში და გაუმკლავდნენ NDA-ს?

ამ კითხვაზე შეგიძლიათ მიიღოთ დიახ და არა. დიახ, ზოგიერთმა ფირმამ უნდა გაიაროს ეს გზა. არა, თქვენ შესაძლოა სულაც არ აირჩიოთ ამ მარშრუტის გავლა. ფაქტორები მოიცავს AI-ს ზომასა და ბუნებას, ნებისმიერი AI მიკერძოების გამოვლენის პოტენციალს და სხვა ეთიკურ, ლეგალურ და ბიზნეს მოსაზრებებს, რომლებიც გამოდგება.

მე შემიძლია დავამატო, რომ თქვენი AI-ის მიკერძოებულობისთვის ნადირობის მცდელობის შექმნა ბევრად უფრო მაღალია, ვიდრე თქვენ შეიძლება წარმოიდგინოთ ერთი შეხედვით.

ჩვენ დავიწყებთ დიდი შესაძლებლობით, რომ თქვენ გადატვირთავთ AI მიკერძოებულ მონადირეებს.

ახლა თქვენ გაგიჭირდებათ ბევრის პოვნა, რომელსაც ასეთი სავიზიტო ბარათი ექნება. გარშემო ბევრი არ არის. ამ მხრივ ველური დასავლეთის დღეებია. მაგრამ თუ ჭურჭელზე ნადირობისას ხელოვნური ინტელექტის მიკერძოების ცნება შემოიჭრება, განსაკუთრებით მაშინ, როდესაც ბონუსები უხვად და უხვად მომგებიანია, შეგიძლიათ დადოთ ფსონი, რომ ყველა ჩაყვინთება მიკერძოებულ ნადირობის აუზში.

გნებავთ ყველა სახის რიფრაფი, რომელიც ახორციელებს AI მიკერძოებას თქვენს AI სისტემაში? თქვენ მიიღებთ რამდენიმე მიმღებს, რომლებიც რეალურად არიან ამ სახის საქმის ექსპერტები. თქვენ მიიღებთ სხვა მიმღებებს, რომლებიც მოყვარულები არიან და შესაძლოა არეულობა მოახდინონ ან მგელი იტირონ. შემდეგი, რაც თქვენ იცით, ყველას, ვისაც შეუძლია „ხელოვნური ინტელექტის“ დაწერა, მოვა თხრიან ხელოვნური ინტელექტის სისტემის თქვენს ოქროს მაღაროში იმ ძვირფასი ხელოვნური ინტელექტის მიკერძოების ოქროს ნუგბარებისთვის. ოქროს ციებ-ცხელება მიმდინარეობს. ეს შეიძლება არ იყოს კარგი თქვენთვის.

თქვენ მოგიწევთ გულდასმით გადახედოთ ბონუსებზე მონადირეებს. მოხსენებულ პრეტენზიებში ბევრი „ხმაური“ იქნება, იმ გაგებით, რომ AI-ის პრეტენზიები არ არსებობს, თუმცა ბონუსებზე მონადირე ამტკიცებს, რომ მათ იპოვეს ზოგიერთი. წარმოიდგინეთ, რამდენი შრომა დასჭირდებათ თქვენს AI გუნდებს, რათა შეისწავლონ ბონუსზე პრეტენზიები, გამოიკვლიონ თითოეულის მართებულობა და შემდეგ პოტენციურად წინ და უკან წახვიდეთ ბონუსებზე მონადირესთან იმის შესახებ, ოქრო აღმოაჩინეს თუ არა.

ზოგი ამტკიცებს, რომ ეს კიდევ ერთი მიზეზია, რომ ყველაფერი თავად გააკეთოთ. თქვენ აუცილებლად აღმოაჩენთ, რომ სიკეთის საქმე იმაზე მეტი უბედურებაა, ვიდრე ღირდა.

აქ კიდევ ერთი კითხვაა დასაფიქრებელი. როგორ გაიგებენ ბონუსებზე მონადირეებმა, როგორ გამოიყურება ხელოვნური ინტელექტის მიკერძოება? არსებითად, გარკვეული მსგავსების გარეშე, თუ რა უნდა ვეძებოთ, ნებისმიერი მბზინავი კლდე შეიძლება ითქვას, რომ ავლენს ხელოვნური ინტელექტის მიკერძოებას AI ოქროს მაღაროში, რომელიც გათხრილია.

ძველი დასავლეთის დღეებში, დავუშვათ, რომ თქვენ შესთავაზეთ ჯილდო ბილი ბავშვის (ცნობილი უკანონო) დაჭერისთვის. თუ ასე მოიქეცით და არ დაურთავთ სურათს, თუ როგორ გამოიყურებოდა ბილი, წარმოიდგინეთ, რამდენი მონადირეა შერიფის კაბინეტში, ვისაც იმედი ჰქონდათ ან ეგონათ, რომ ბილი ბავშვი იყო. თქვენ შეიძლება დაიტბოროთ ცრუ ბილით. ეს ცუდია, რადგან მოგიწევთ, სავარაუდოდ, გადახედოთ თითოეულს, დაუსვათ გამომძიებელი კითხვები და შეეცადოთ გაარკვიოთ, იყო თუ არა ეს ადამიანი ნამდვილად ბილი.

საქმე იმაშია, რომ ხელოვნური ინტელექტის ტენდენციების ბონუსის ძალისხმევის დასაყენებლად გონივრული იქნება, სცადოთ და განვმარტოთ, რას მოიცავს AI მიკერძოება. ეს მოითხოვს Goldilocks სახის კალიბრაციას. თქვენ არ გინდათ იყოთ იმდენად შეზღუდულები, რომ ბონუსებზე მონადირეებმა თვალი ადევნონ ხელოვნური ინტელექტის მიკერძოებას მხოლოდ იმიტომ, რომ ისინი არ ჯდება თქვენს განსაზღვრულ განმარტებაში და არც გინდათ, რომ მათ იყვირონ „ევრიკა!“. AI მიკერძოების ყოველ ნაჭერზე, რომელსაც ისინი ალბათ აღმოაჩენენ.

თქვენ დაგჭირდებათ ზუსტად Goldilocks-ის სწორი ბალანსი, რისგან შედგება AI მიკერძოება და ამით მიაწოდოთ სასურველია მკაფიო მიმართულებები.

ბევრი ამ AI-ის მიკერძოება ბონუსებზე ნადირობაზე იქნება ორიენტირებული AI-ზე დაფუძნებულ მანქანათმცოდნეობის (ML) და ღრმა სწავლის (DL) სისტემებზე. ეს ლოგიკურია, რადგან ML/DL გამჭვირვალობის გამოჩენა იზრდება, გარდა ამისა, როგორც ჩანს, მას აქვს რამდენიმე ყველაზე სავარაუდო გამოწვევა, რომელიც მოიცავს AI მიკერძოებას.

ეს მკვლევარები ადგენენ, თუ რამდენად თვალსაჩინო შეიძლება იყოს AI მიკერძოებული ბონუსზე ნადირობის მცდელობა, განსაკუთრებით ML/DL კონტექსტში: „დროთა განმავლობაში პროგრამულმა და უსაფრთხოების საზოგადოებებმა შეიმუშავეს „შეცდომის სიკეთეები“, რათა მსგავსი დინამიკა შეცვალონ სისტემის დეველოპერებსა და მათ კრიტიკოსებს შორის. (ან ჰაკერები) უფრო ინტერაქტიული და პროდუქტიული მიზნებისკენ. იმედია, რომ გარე მხარეების მიზანმიმართული მოწვევით იპოვონ პროგრამული ან ტექნიკის ხარვეზები მათ სისტემებში და ხშირად ამისთვის ფულადი წახალისების მიცემა, უფრო ჯანსაღი და უფრო სწრაფად რეაგირებადი ეკოსისტემა განვითარდება. ბუნებრივია, რომ ML საზოგადოებამ განიხილოს მსგავსი „მიკერძოებული სიკეთის“ მიდგომა მიკერძოებული ან სხვა არასასურველი ქცევის მქონე მოდელებისა და სისტემების დროული აღმოჩენისა და შეკეთების მიმართ. პროგრამულ უზრუნველყოფაში ხარვეზების პოვნის ნაცვლად, გარე მხარეებს ეწვევათ იპოვონ მიკერძოება - მაგალითად, (დემოგრაფიული ან სხვა) მონაცემების ქვეჯგუფები, რომლებზეც გაწვრთნილი მოდელი არასაკმარისია - და დაჯილდოვდებიან ამისთვის" (ნაშრომში "An Algorithmic Framework for Bias" Bounties” ირა გლობუს-ჰარისის, მაიკლ კერნსისა და აარონ როტის მიერ).

კვლევით ნაშრომში, ავტორები ასახავდნენ შემოთავაზებულ მიდგომას იმის შესახებ, თუ რა სახის AI მიკერძოება შეიძლება მოიძიონ ბონუსებზე მონადირეებმა. ასევე არსებობს მითითება იმის შესახებ, თუ როგორ უნდა შეფასდეს ბონუსებზე მონადირის პრეტენზიები, რომლებიც დაკავშირებულია ასე აღმოჩენილ AI მიკერძოებასთან. ჩემი ადრინდელი შენიშვნების მიხედვით, შანსები ისეთია, რომ თქვენ მიიღებთ სპეციფიკურ პრეტენზიებს და მოგიწევთ გამოყოთ AI მიკერძოებული ხორბალი ჭაობიდან.

სანამ ხორცსა და კარტოფილს შევეხებით ველური და მატყლის მოსაზრებებს, რომლებიც საფუძვლად უდევს ხელოვნურ ინტელექტზე მიკერძოებულ ნადირობას, მოდით დავადგინოთ რამდენიმე დამატებითი საფუძვლები ღრმად ინტეგრალურ თემებზე. ჩვენ მოკლედ უნდა ჩავუღრმავდეთ ხელოვნური ინტელექტის ეთიკას და განსაკუთრებით მანქანური სწავლების (ML) და ღრმა სწავლების (DL) გამოჩენას.

შეიძლება ბუნდოვნად იცოდეთ, რომ ერთ-ერთი ყველაზე ხმამაღალი ხმა ამ დღეებში ხელოვნური ინტელექტის სფეროში და თვით ხელოვნური ინტელექტის სფეროს მიღმაც კი მოიცავს ეთიკური ხელოვნური ინტელექტის უფრო გარეგნობის მოთხოვნას. მოდით გადავხედოთ რას ნიშნავს AI ეთიკასა და ეთიკურ AI-ზე მითითება. ამის გარდა, ჩვენ განვიხილავთ რას ვგულისხმობ, როდესაც ვსაუბრობ მანქანურ სწავლასა და ღრმა სწავლებაზე.

ხელოვნური ინტელექტის ეთიკის ერთი კონკრეტული სეგმენტი ან ნაწილი, რომელიც მედიის დიდ ყურადღებას იპყრობს, შედგება ხელოვნური ინტელექტისგან, რომელიც ავლენს არასასურველ მიკერძოებას და უთანასწორობას. შეიძლება იცოდეთ, რომ როდესაც ხელოვნური ინტელექტის უახლესი ეპოქა დაიწყო, ენთუზიაზმის დიდი აფეთქება იყო იმისთვის, რასაც ახლა ზოგიერთი უწოდებენ. AI კარგით. სამწუხაროდ, ამ მღელვარე მღელვარების შემდეგ ჩვენ დავიწყეთ მოწმეები AI ცუდად. მაგალითად, AI-ზე დაფუძნებული სახის ამოცნობის სხვადასხვა სისტემა გამოვლინდა, რომ შეიცავს რასობრივ მიკერძოებას და გენდერულ მიკერძოებას, რაც მე განვიხილეთ ბმული აქ.

წინააღმდეგ ბრძოლის მცდელობები AI ცუდად აქტიურად მიმდინარეობს. გარდა ხმოვანი იურიდიული არასწორი ქმედებების შეკავების სწრაფვა, ასევე არსებობს არსებითი ბიძგი ხელოვნური ინტელექტის ეთიკის ათვისებისკენ, რათა გამოსწორდეს ხელოვნური ინტელექტის სისასტიკე. აზრი არის ის, რომ ჩვენ უნდა მივიღოთ და დავამტკიცოთ ეთიკური ხელოვნური ინტელექტის ძირითადი პრინციპები ინტელექტუალური ინტელექტის განვითარებისა და რეალიზაციისთვის. AI ცუდად და ამავდროულად სასურველის მაცნე და ხელშეწყობა AI კარგით.

ამასთან დაკავშირებით, მე ვარ მომხრე, რომ ვცდილობ AI გამოვიყენო, როგორც ხელოვნური ინტელექტის პრობლემების გადაწყვეტის ნაწილი, ცეცხლთან ბრძოლა ამ აზროვნების წესით. ჩვენ შეიძლება, მაგალითად, ეთიკური ხელოვნური ინტელექტის კომპონენტები ჩავრთოთ ხელოვნური ინტელექტის სისტემაში, რომელიც მონიტორინგს გაუწევს, თუ როგორ აკეთებს სხვა ხელოვნური ინტელექტი და ამით რეალურ დროში პოტენციურად დაიჭერს ნებისმიერ დისკრიმინაციულ ძალისხმევას, იხილეთ ჩემი განხილვა აქ. ბმული აქ. ჩვენ ასევე შეიძლება გვქონდეს ცალკეული AI სისტემა, რომელიც მოქმედებს როგორც AI ეთიკის მონიტორის ტიპი. ხელოვნური ინტელექტის სისტემა ემსახურება როგორც ზედამხედველს, რათა თვალყური ადევნოს და აღმოაჩინოს, როდესაც სხვა ხელოვნური ინტელექტი მიდის არაეთიკურ უფსკრულში (იხილეთ ასეთი შესაძლებლობების ჩემი ანალიზი: ბმული აქ).

ცოტა ხანში მე გაგიზიარებთ რამდენიმე ყოვლისმომცველ პრინციპს, რომელიც საფუძვლად უდევს AI ეთიკას. უამრავი ასეთი სახის სია ტრიალებს აქეთ-იქით. შეიძლება ითქვას, რომ ჯერ კიდევ არ არსებობს უნივერსალური მიმართვისა და თანხმობის ერთიანი სია. ეს არის სამწუხარო ამბავი. კარგი ამბავი ის არის, რომ სულ მცირე, არსებობს AI ეთიკის სიები და ისინი საკმაოდ მსგავსია. ყოველივე ამის შემდეგ, ეს იმაზე მეტყველებს, რომ რაიმე სახის დასაბუთებული კონვერგენციით ჩვენ ვპოულობთ გზას ზოგადი საერთოობისკენ, რისგან შედგება AI ეთიკა.

პირველ რიგში, მოდი მოკლედ გავაშუქოთ ეთიკური ხელოვნური ინტელექტის ზოგადი პრინციპები იმის საილუსტრაციოდ, თუ რა უნდა იყოს სასიცოცხლოდ მნიშვნელოვანი ყველასთვის, ვინც ამუშავებს, ამუშავებს ან იყენებს AI-ს.

მაგალითად, როგორც ვატიკანის მიერ ნათქვამია რომის მოწოდება AI ეთიკისკენ და როგორც მე ჩავწერე სიღრმისეულად ბმული აქ, ეს არის მათი გამოვლენილი ექვსი ძირითადი AI ეთიკის პრინციპი:

• გამჭვირვალობა: პრინციპში, AI სისტემები უნდა იყოს ახსნილი
• ჩართვა: ყველა ადამიანის მოთხოვნილებები მხედველობაში უნდა იქნეს მიღებული, რათა ყველამ ისარგებლოს და ყველა ინდივიდს შესთავაზოს საუკეთესო პირობები საკუთარი თავის გამოხატვისა და განვითარებისთვის.
• პასუხისმგებლობა: ვინც შეიმუშავებს და იყენებს ხელოვნური ინტელექტის გამოყენებას, უნდა განაგრძოს პასუხისმგებლობა და გამჭვირვალობა
• მიუკერძოებლობა: ნუ ქმნით და ნუ იმოქმედებთ მიკერძოების მიხედვით, რითაც დაიცავთ სამართლიანობას და ადამიანურ ღირსებას
• საიმედოობა: AI სისტემებს უნდა შეეძლოთ საიმედოდ მუშაობა
• უსაფრთხოება და კონფიდენციალურობა: AI სისტემები უსაფრთხოდ უნდა მუშაობდნენ და პატივს სცემენ მომხმარებლების კონფიდენციალურობას.

როგორც აშშ-ის თავდაცვის დეპარტამენტმა (DoD) განაცხადა მათ ეთიკური პრინციპები ხელოვნური ინტელექტის გამოყენებისათვის და როგორც მე ჩავწერე სიღრმისეულად ბმული აქ, ეს არის მათი ექვსი ძირითადი AI ეთიკის პრინციპი:

• პასუხისმგებელი: DoD-ის პერსონალი განახორციელებს განსჯის და ზრუნვის შესაბამის დონეს, ხოლო პასუხისმგებლობა დარჩება ხელოვნური ინტელექტის შესაძლებლობების განვითარებაზე, განლაგებასა და გამოყენებაზე.
• სამართლიანი: დეპარტამენტი მიიღებს მიზანმიმართულ ზომებს ხელოვნური ინტელექტის შესაძლებლობების გაუთვალისწინებელი მიკერძოების შესამცირებლად.
• მიკვლევადი: დეპარტამენტის AI შესაძლებლობები განვითარდება და განლაგდება ისე, რომ შესაბამისი პერსონალი ფლობდეს ტექნოლოგიის, განვითარების პროცესებისა და ოპერატიული მეთოდების, რომლებიც გამოიყენება ხელოვნური ინტელექტის შესაძლებლობებზე, მათ შორის გამჭვირვალე და აუდიტორული მეთოდოლოგიების, მონაცემთა წყაროების, დიზაინის პროცედურებისა და დოკუმენტაციის შესახებ.
• სანდო: დეპარტამენტის ხელოვნური ინტელექტის შესაძლებლობებს ექნება მკაფიო, კარგად განსაზღვრული გამოყენება და ასეთი შესაძლებლობების უსაფრთხოება, უსაფრთხოება და ეფექტურობა დაექვემდებარება ტესტირებას და გარანტიას განსაზღვრული გამოყენების ფარგლებში მათი მთელი სიცოცხლის ციკლის განმავლობაში.
• მართვადი: დეპარტამენტი შეიმუშავებს და შეიმუშავებს ხელოვნური ინტელექტის შესაძლებლობებს, რათა შეასრულოს მათი განზრახული ფუნქციები, ამასთან ექნება შესაძლებლობა აღმოაჩინოს და თავიდან აიცილოს გაუთვალისწინებელი შედეგები, და გააუქმოს ან გამორთოს განლაგებული სისტემები, რომლებიც აჩვენებენ არასასურველ ქცევას.

მე ასევე განვიხილეთ ხელოვნური ინტელექტის ეთიკის პრინციპების სხვადასხვა კოლექტიური ანალიზი, მათ შორის, მკვლევართა მიერ შემუშავებული ნაკრების გაშუქება, რომლებიც შეისწავლეს და შეაჯამეს მრავალი ეროვნული და საერთაშორისო ხელოვნური ინტელექტის ეთიკის პრინციპების არსი ნაშრომში სახელწოდებით „AI ეთიკის სახელმძღვანელო პრინციპების გლობალური პეიზაჟი“ (გამოქვეყნებულია). in ბუნება), და რომ ჩემი გაშუქება იკვლევს ბმული აქ, რამაც გამოიწვია ეს საკვანძო სია:

• გამჭვირვალობა
• სამართლიანობა და სამართლიანობა
• არა ბოროტმოქმედება
• პასუხისმგებლობა
• Privacy
• კეთილგანწყობა
• თავისუფლება და ავტონომია
• ენდეთ
• მდგრადობა
• ღირსების
• სოლიდარობა

როგორც თქვენ პირდაპირ მიხვდებით, ამ პრინციპების საფუძველში არსებული სპეციფიკის განსაზღვრის მცდელობა შეიძლება ძალიან რთული იყოს. უფრო მეტიც, ამ ფართო პრინციპების გადაქცევის მცდელობა სრულიად ხელშესახებ და საკმარისად დეტალურად გამოსაყენებლად ხელოვნური ხელოვნური ინტელექტის სისტემების შექმნისას ასევე რთულია. ზოგადად ადვილია იმის გარკვევა, თუ რა არის ხელოვნური ინტელექტის ეთიკის პრინციპები და როგორ უნდა დავიცვათ ისინი ზოგადად, მაშინ როცა AI კოდირებაში ბევრად უფრო რთული სიტუაციაა, რომელიც უნდა იყოს ნამდვილი რეზინი, რომელიც ხვდება გზას.

ხელოვნური ინტელექტის ეთიკის პრინციპები უნდა გამოიყენონ ხელოვნური ინტელექტის დეველოპერებმა, მათთან ერთად, რომლებიც მართავენ ხელოვნური ინტელექტის განვითარების მცდელობებს და ისეთებიც კი, რომლებიც საბოლოოდ ამუშავებენ და ასრულებენ AI სისტემებს. ყველა დაინტერესებული მხარე ხელოვნური ინტელექტის განვითარებისა და გამოყენების სასიცოცხლო ციკლის განმავლობაში განიხილება ეთიკური ხელოვნური ინტელექტის უკვე დამკვიდრებული ნორმების დაცვის ფარგლებში. ეს მნიშვნელოვანი მომენტია, რადგან ჩვეულებრივი ვარაუდია, რომ „მხოლოდ კოდირებები“ ან ისინი, რომლებიც აპროგრამებენ AI-ს, ექვემდებარებიან AI ეთიკის ცნებებს. როგორც ადრე აღვნიშნეთ, სოფელს სჭირდება ხელოვნური ინტელექტის შემუშავება და დანერგვა, რისთვისაც მთელი სოფელი უნდა იყოს გათვითცნობიერებული და დაემორჩილოს ხელოვნური ინტელექტის ეთიკის პრინციპებს.

მოდი ასევე დავრწმუნდეთ, რომ ერთსა და იმავე გვერდზე ვართ დღევანდელი AI-ის ბუნების შესახებ.

დღეს არ არსებობს AI, რომელიც მგრძნობიარეა. ჩვენ არ გვაქვს ეს. ჩვენ არ ვიცით შესაძლებელი იქნება თუ არა მგრძნობიარე AI. ვერავინ ვერ იწინასწარმეტყველებს, მივაღწევთ თუ არა მგრძნობიარე ხელოვნურ ინტელექტს, და არც სპონტანურად წარმოიქმნება თუ არა გამოთვლითი შემეცნებითი სუპერნოვას სახით (როგორც წესი, სინგულარობა მოიხსენიება, იხილეთ ჩემი გაშუქება აქ. ბმული აქ).

ხელოვნური ინტელექტის ტიპი, რომელზეც მე ვამახვილებ ყურადღებას, შედგება არა მგრძნობიარე AI-სგან, რომელიც დღეს გვაქვს. თუ გვინდოდა ველური სპეკულირება სენტიმენტალური AI, ეს დისკუსია შეიძლება რადიკალურად განსხვავებული მიმართულებით წავიდეს. მგრძნობიარე AI სავარაუდოდ ადამიანის ხარისხის იქნებოდა. თქვენ უნდა გაითვალისწინოთ, რომ მგრძნობიარე AI არის ადამიანის კოგნიტური ეკვივალენტი. უფრო მეტიც, რადგან ზოგიერთი ვარაუდობს, რომ შესაძლოა გვქონდეს სუპერ ინტელექტუალური AI, საფიქრებელია, რომ ასეთი AI შეიძლება ადამიანებზე ჭკვიანი იყოს (სუპერ ინტელექტუალური AI, როგორც შესაძლებლობის ჩემი შესწავლისთვის, იხ. გაშუქება აქ).

მოდით, ყველაფერი უფრო ახლოს მივიღოთ და განვიხილოთ დღევანდელი გამოთვლითი არა მგრძნობიარე AI.

გააცნობიერეთ, რომ დღევანდელ AI-ს არ შეუძლია „აზროვნება“ ადამიანის აზროვნების ტოლფასად. როდესაც თქვენ ურთიერთობთ Alexa-სთან ან Siri-თან, საუბრის შესაძლებლობები შეიძლება ადამიანური შესაძლებლობების მსგავსი ჩანდეს, მაგრამ რეალობა ის არის, რომ ის არის გამოთვლითი და მოკლებულია ადამიანის შემეცნებას. ხელოვნური ინტელექტის უახლესმა ეპოქამ ფართოდ გამოიყენა მანქანათმცოდნეობა (ML) და ღრმა სწავლება (DL), რომლებიც იყენებენ გამოთვლითი შაბლონების შესაბამისობას. ამან გამოიწვია ხელოვნური ინტელექტის სისტემები, რომლებსაც აქვთ ადამიანის მსგავსი მიდრეკილებების გარეგნობა. იმავდროულად, დღეს არ არსებობს ხელოვნური ინტელექტი, რომელსაც აქვს საღი აზრი და არც ადამიანური აზროვნების ძლიერი შემეცნებითი საოცრება.

ML/DL არის გამოთვლითი ნიმუშის შესატყვისის ფორმა. ჩვეულებრივი მიდგომა არის ის, რომ თქვენ აგროვებთ მონაცემებს გადაწყვეტილების მიღების ამოცანის შესახებ. თქვენ აწვდით მონაცემებს ML/DL კომპიუტერულ მოდელებში. ეს მოდელები ეძებენ მათემატიკური ნიმუშების პოვნას. ასეთი შაბლონების პოვნის შემდეგ, თუ ეს ნაპოვნია, ხელოვნური ინტელექტის სისტემა გამოიყენებს ამ შაბლონებს ახალ მონაცემებთან შეხვედრისას. ახალი მონაცემების წარდგენისას, „ძველ“ ან ისტორიულ მონაცემებზე დაფუძნებული შაბლონები გამოიყენება მიმდინარე გადაწყვეტილების მისაღებად.

ვფიქრობ, შეგიძლიათ გამოიცნოთ საით მიდის ეს. თუ ადამიანები, რომლებიც იღებდნენ გადაწყვეტილებებს, ატარებდნენ არასასურველ მიკერძოებებს, დიდი ალბათობაა, რომ მონაცემები ასახავს ამას დახვეწილი, მაგრამ მნიშვნელოვანი გზებით. მანქანათმცოდნეობის ან ღრმა სწავლების გამოთვლითი ნიმუშის შესატყვისი უბრალოდ შეეცდება მათემატიკურად მიბაძოს მონაცემების შესაბამისად. თავისთავად არ არსებობს საღი აზრის ან ხელოვნური ინტელექტის შემუშავებული მოდელირების სხვა მგრძნობიარე ასპექტები.

გარდა ამისა, ხელოვნური ინტელექტის შემქმნელებმა შესაძლოა ვერც გააცნობიერონ რა ხდება. საიდუმლო მათემატიკა ML/DL-ში შესაძლოა გაართულოს ახლა ფარული მიკერძოებების ამოცნობა. თქვენ სამართლიანად იმედოვნებთ და ელოდებით, რომ AI დეველოპერები შეამოწმებენ პოტენციურად დამარხულ მიკერძოებებს, თუმცა ეს უფრო რთულია, ვიდრე შეიძლება ჩანდეს. არსებობს სოლიდური შანსი იმისა, რომ შედარებით ვრცელი ტესტირების შემთხვევაშიც კი, ML/DL-ის შაბლონის შესატყვისი მოდელების შიგნით მაინც იყოს მიკერძოებულები.

თქვენ შეგიძლიათ გარკვეულწილად გამოიყენოთ ცნობილი ან სამარცხვინო ანდაზა ნაგვის ნაგვის გამოსვლის შესახებ. საქმე იმაშია, რომ ეს უფრო მეტად წააგავს მიკერძოებას, რომელიც მზაკვრულად ჩნდება AI-ში ჩაძირული მიკერძოებების სახით. AI-ის გადაწყვეტილების მიღების ალგორითმი (ADM) აქსიომატიურად იტვირთება უთანასწორობებით.

Არ არის კარგი.

ახლა დავუბრუნდეთ AI მიკერძოებულ ნადირობის თემას.

მათთვის, ვინც განიხილავს AI-ის მიკერძოებას ბონუსზე ნადირობის მცდელობას, აქ არის ჩემი რეკომენდირებული შვიდი ძირითადი ნაბიჯი, თუ როგორ უნდა გააგრძელოთ საუკეთესოდ:

1) შეაფასეთ. შეაფასეთ ხელოვნური ინტელექტის მიკერძოების ბონუსზე ნადირობის მცდელობის ვარგისიანობა თქვენი გარემოებებისთვის და თქვენი AI სისტემების მიხედვით

2) დიზაინი. შეიმუშავეთ AI-ის მიკერძოება ბონუსზე ნადირობის შესაბამისი მიდგომა

3) განახორციელოს. განახორციელეთ და გაასაჯაროეთ თქვენი AI მიკერძოებული ბონუსზე ნადირობის მცდელობები

4) საველე. დაარეგულირეთ AI მიკერძოებული პრეტენზიები და დაამუშავეთ შესაბამისად

5) ფიქსის. შეასწორეთ ან დაარეგულირეთ თქვენი AI, როგორც შესაბამისი ამ აღმოჩენილი AI მიკერძოების ზემოქმედებისთვის

6) შესწორება. საჭიროების შემთხვევაში დაარეგულირეთ AI მიკერძოებული ბონუსზე ნადირობა

7) შეწყვეტა. შეწყვიტეთ ხელოვნური ინტელექტის მიკერძოებაზე ნადირობა, როცა ის აღარ არის საჭირო

ჩემს ზემოაღნიშნული ნაბიჯების სერიაში, გაითვალისწინეთ, რომ მე აღვნიშნავ, რომ თქვენ სავარაუდოდ გსურთ თქვენი AI-ის გამოსწორება ან კორექტირება, იმის საფუძველზე, რომ დადგინდება, რომ აცხადებული AI მიკერძოება რეალურად არსებობს თქვენს AI სისტემაში. ამას უხვად აქვს აზრი. თქვენ ნამდვილად გსურთ გააძლიეროთ ნებისმიერი ნაპოვნი AI მიკერძოება. იფიქრეთ იურიდიულ (და ეთიკურ) შედეგებზე, თუ ამას არ გააკეთებთ. ერთია იმის მტკიცება, რომ თქვენ არ იცოდით ხელოვნური ინტელექტის მიკერძოების არსებობის შესახებ და, შესაბამისად, მის არსებობის უფლებას აძლევდით, მაშინ როდესაც ჩანაწერში უფრო სავალალოა იმის მტკიცება, რომ თქვენ იცოდით AI მიკერძოებულობის შესახებ და არაფერი გაგიკეთებიათ ამის შესახებ.

ხელოვნური ინტელექტის გამოსწორების ან კორექტირების ბუნება და ხარისხი, რა თქმა უნდა, დამოკიდებული იქნება იმაზე, თუ რამდენად მნიშვნელოვანი იყო AI მიკერძოება და რამდენად ღრმად არის ჩართული საკითხები. თუ გაგიმართლათ, შესაძლოა, AI-ში მცირე ცვლილებები გამოასწორებს საკითხს. სხვა პოტენციალი არის ის, რომ შესაძლოა დაგჭირდეთ ხელოვნური ინტელექტის სრული გადაწერა. ML/DL ტიპის AI-სთვის, ამას შეიძლება დასჭირდეს დაბრუნება სახატავ დაფაზე და თავიდან დაწყება მონაცემთა სრულიად ახალი ნაკრებით და გასუფთავებული ML/DL მოდელით. მე განვიხილეთ ხელოვნური ინტელექტის დაშლის ან ხელოვნური ინტელექტის განადგურების, როგორც პოტენციური სამართლებრივი საშუალება არასახარბიელო ხელოვნური ინტელექტის წინააღმდეგ, იხ. ბმული აქ.

ერთი კითხვა, რომელიც გასათვალისწინებელია არის ის, გსურთ თუ არა ბონუსებზე მონადირეებმა გააკეთონ მეტი, ვიდრე უბრალოდ დაადგინონ ხელოვნური ინტელექტის მიკერძოება. მაგალითად, შეგიძლიათ დატკბეთ სიკეთე იმით, რომ შემოთავაზებული შესწორებებიც მისასალმებელია. AI მიკერძოება ი ბონუსზე მონადირეს შეიძლება გადაუხადოს ერთი მითითებული ჯილდო ან პრიზი. თუ ბონუსზე მონადირეს შეუძლია სიცოცხლისუნარიანის შეთავაზება დაფიქსირება ხელოვნური ინტელექტის მიკერძოებისთვის, მათ შეიძლება მიენიჭონ დამატებითი ჯილდო.

ზოგი ამტკიცებს, რომ ეს ხიდი ძალიან შორს არის. ისინი ამბობენ, რომ ხელოვნური ინტელექტის მიკერძოების ბონუსებზე მონადირეები ექსკლუზიურად ორიენტირებული უნდა იყვნენ ხელოვნური ინტელექტის მიკერძოების პოვნაზე. თქვენ აპირებთ შექმნათ არასასურველი არასასურველი შედეგების თაიგულის მოწვევით, რომ მათ ასევე შესთავაზონ გამოსწორებები. შეინახეთ ყველაფერი მარტივი. მიზანია რაც შეიძლება მეტი ყურადღება მიაქციოთ ხელოვნური ინტელექტის მიკერძოების აღმოჩენას, რათა გადაწყვიტოთ რა უნდა გააკეთოთ შემდეგ. ნუ დაბინდავთ წყლებს.

ეკლიანი ასპექტი, რომელიც უნდა გაერკვია, მოიცავს ჯილდოს ან პრიზის სიდიდეს ბონდზე მონადირეებისთვის, რომლებიც ნამდვილად აღმოაჩენენ ხელოვნური ინტელექტის მიკერძოებას. გსურთ, რომ ანაზღაურება იყოს დემონსტრაციული. საკმარისად მაღალი ჯილდოს გარეშე, თქვენ ვერ მიიღებთ ბევრ ბონუსზე მონადირეს, ან მათ არ ექნებათ განსაკუთრებული სურვილი, მოიძიონ ხელოვნური ინტელექტის მიკერძოება თქვენს AI სისტემებში. ამის ნაცვლად, მათ შეუძლიათ კონცენტრირება მოახდინონ ხელოვნური ინტელექტის მიკერძოებულობის სხვა მცდელობებზე.

გარდა ამისა, როგორც აღვნიშნეთ, თქვენ გსურთ სცადოთ და დათრგუნოთ ბონუსებზე მონადირეების სურვილი, გადააქციონ ხელოვნური ინტელექტის მიკერძოების აღმოჩენები ოქროს სხვა ფორმებად. თუ ჯილდო არასასიამოვნო გეჩვენებათ, ამან შეიძლება გააბრაზოს მონადირეები სხვა უფრო მაღალი ანაზღაურების ძიებაში. მათ შეუძლიათ გამოიყენონ გამოსასყიდი პროგრამა თქვენს მიმართ. მათ შეიძლება განაცხადონ, რომ აქვთ წვნიანი AI მიკერძოება, რომლის შესახებაც კონკურენტს სიამოვნებით ეცოდინება და შეუძლია გამოიყენოს თქვენი ფირმის წინააღმდეგ, იმის მტკიცებით, რომ AI მიკერძოება არსებობს თქვენს AI-ში. ამრიგად, ისინი ყიდიან აღმოჩენილ AI მიკერძოებას ყველაზე მაღალ პრეტენდენტზე. Და ასე შემდეგ.

ერთი ვარაუდობს, რომ თუ ჯილდოს ძალიან მაღალ დიაპაზონზე დააყენებთ, თქვენ ასევე ითხოვთ პოტენციურ უბედურებას. ამან შეიძლება მიიზიდოს ყველა სახის შეშლილი ბონუსზე მონადირე. მათ, თავის მხრივ, შესაძლოა სოციალური მედიის გადატვირთვა ბუნდოვანი პრეტენზიებით, რომ მათ აღმოაჩინეს უამრავი ხელოვნური ინტელექტის მიკერძოება, ამას აკეთებენ საკუთარი თავის პოპულარიზაციისთვის და ფაქტობრივად, ხელოვნური ინტელექტის მიკერძოების გარეშე. გარკვეული გაგებით, თქვენი გაზრდილი ჯილდო უნებლიედ ანათებს თქვენს AI-ს და უბიძგებს უამრავ ჭუჭყს, რომ შესაბამისად საზიანოდ მიიზიდოს მანათობელი სინათლის სხივი.

კიდევ ერთი მოსაზრება მოიცავს თქვენს AI-ზე ხელმისაწვდომობას.

AI ბონუსზე ნადირობის შესაძლებლობის გასააქტიურებლად, ბონუსებზე მონადირეებს უნდა ჰქონდეთ საკმარისი წვდომა თქვენს AI-ზე. მათ არ ექნებათ დიდი იღბალი ხელოვნური ინტელექტის მიკერძოების პოვნაში, თუ ისინი მთლიანად დაბლოკილია. მაგრამ თქვენ არ გსურთ უარი თქვათ კიბერუსაფრთხოების დაცვაზე, რადგან ამით შეიძლება მთლიანად დათრგუნოთ თქვენი AI სისტემა.

თქვენ შეიძლება სცადოთ, რომ ბონუსებზე მონადირეებმა ხელი მოაწერონ სხვადასხვა იურიდიულად სავალდებულო დეკლარაციას და შემდეგ მიაწოდონ მათ საჭირო წვდომა. ზოგიერთ ბონუსზე მონადირეს არ მოეწონება ასეთი მიდგომა. მათი აზრით, ისინი გააკეთებენ მხოლოდ იმას, რასაც საჯაროდ ხელმისაწვდომი და ღია გზა იძლევა. ისინი, თითქოსდა, თავისუფალი მავერიკები არიან და არ მოსწონთ, თითქოსდა უნაგირს ახვევენ. მათი ხელმოწერის დადება საშიშ იურიდიულ დოკუმენტებზე გამოიწვევს ბევრ მათგანს თავიდან აიცილოს ხელოვნური ინტელექტის მიკერძოების ძიება თქვენს AI-ში. ან ისინი შეიძლება გაგიჟდნენ თქვენს სამართლებრივ ხელთაზე და გადაწყვიტონ, რომ ნახავენ, რისი პოვნა შეუძლიათ საჯარო საშუალებებით, ამას აკეთებენ ალბათ მკაცრი სურვილით, გაჩვენონ, რამდენად დაუცველი ხარ სინამდვილეში.

მე მაქვს კიდევ ერთი კუთხე, რამაც შეიძლება თავი დაგიბრუნოს.

ხელოვნური ინტელექტის მცოდნე ბონუსებზე მონადირემ შეიძლება გადაწყვიტოს შეიმუშაოს ხელოვნური ინტელექტის სისტემა, რომელსაც შეუძლია შეამოწმოს თქვენი AI და შესაძლოა აღმოაჩინოს AI მიკერძოება თქვენს AI-ში. ეს არის ხელსაწყოების შემქმნელი, რომელიც ირჩევს სამუშაოს შესასრულებლად ხელსაწყოს შექმნას, ვიდრე თავად შეასრულოს ხელით სამუშაო. იმის ნაცვლად, რომ შრომატევადი შეისწავლოს თქვენი ხელოვნური ინტელექტი, ხელოვნური ინტელექტის ცოდნა ბონუსებზე მონადირე თავის დროს ხარჯავს ხელოვნური ინტელექტის ხელსაწყოს შემუშავებაში, რომელიც იგივეს აკეთებს. შემდეგ ისინი იყენებენ AI ხელსაწყოს თქვენს AI-ზე. ასევე სილამაზე ის არის, რომ მათ, სავარაუდოდ, შეუძლიათ ხელახლა გამოიყენონ AI ინსტრუმენტი ნებისმიერ სხვაზე, რომელიც ასევე გვთავაზობს საჩუქრებზე ნადირობის შესაძლებლობას მათ შესაბამის AI-ზეც.

ვიცი რასაც ფიქრობ ალბათ. თუ ხელოვნური ინტელექტის ხელსაწყო შეიძლება შეიქმნას ხელოვნური ინტელექტის მიკერძოების შესამოწმებლად, ხელოვნური ინტელექტის შემქმნელმა, რომელიც განიხილება ხელოვნური ინტელექტის მიკერძოებისთვის, ან უნდა შექმნას AI ინსტრუმენტი, ან იყიდოს ის საკუთარი გამოყენებისთვის. თეორიულად, მათ არ სჭირდებათ დაპირისპირება მთელი ბონუსზე მონადირე კარნავალთან, დასაწყისისთვის. უბრალოდ გამოიყენეთ AI, რომ იპოვოთ მათი AI მიკერძოება.

დიახ, ეს არის ის, რაც შეიძლება ველოდოთ, რომ თანდათან წარმოიქმნება. იმავდროულად, ამ ძალისხმევის საყრდენი, სავარაუდოდ, შედგება ხელოვნური ინტელექტის დეველოპერებისგან, რომლებიც ასრულებენ ნადირობას. მათ შესაძლოა გამოიყენონ სხვადასხვა ხელსაწყოები თავიანთი ძალისხმევის დასახმარებლად, მაგრამ უახლოეს პერსპექტივაში, ისინი ნაკლებად სავარაუდოა, რომ უბრალოდ დაუფიქრებლად დააყენონ AI ინსტრუმენტი ავტომატურზე და ისე დაიძინონ, რომ ეს ინსტრუმენტი ახორციელებს მათზე AI მიკერძოების ნადირობას.

ჯერ იქ არ ვართ.

ამ მძიმე დისკუსიის ამ ეტაპზე, მე დადებს დადებს, რომ თქვენ გსურთ რამდენიმე საილუსტრაციო მაგალითი, რომელიც შეიძლება აჩვენოს ეს თემა. არსებობს მაგალითების განსაკუთრებული და ნამდვილად პოპულარული ნაკრები, რომელიც გულთან ახლოსაა. ხედავთ, ჩემი, როგორც ხელოვნური ინტელექტის ექსპერტის, ეთიკური და სამართლებრივი შედეგების ჩათვლით, მე ხშირად მთხოვენ განვსაზღვრო რეალისტური მაგალითები, რომლებიც ასახავს AI ეთიკის დილემებს, რათა თემის გარკვეულწილად თეორიული ბუნება უფრო ადვილად გავიგოთ. ერთ-ერთი ყველაზე ამაღელვებელი სფერო, რომელიც ნათლად წარმოაჩენს ამ ეთიკური ხელოვნური ინტელექტის პრობლემას, არის AI-ზე დაფუძნებული ნამდვილი თვითმართვადი მანქანების გამოჩენა. ეს იქნება მოსახერხებელი გამოყენების შემთხვევა ან მაგალითი თემაზე საკმაო განხილვისთვის.

აქ არის საყურადღებო კითხვა, რომლის განხილვაც ღირს: ხელოვნური ინტელექტის საფუძველზე დაფუძნებული ჭეშმარიტი თვითმართვადი მანქანების გამოჩენა რაიმეს ნათელს ხდის ხელოვნური ინტელექტის მიკერძოების ბონუსზე ნადირობის გამოყენებას და თუ ასეა, რას აჩვენებს ეს?

ნება მომეცით ერთი წუთით ამოხსნა კითხვა.

პირველი, გაითვალისწინეთ, რომ ნამდვილ თვითმართველ მანქანაში არ არის ადამიანი მძღოლი ჩართული. გაითვალისწინეთ, რომ ნამდვილი თვითმართვადი მანქანები მართავენ AI მართვის სისტემის მეშვეობით. არ არის საჭირო ადამიანის მძღოლი საჭესთან და არც არის დებულება, რომ ადამიანი მართოს მანქანა. ავტონომიური მანქანების (AVs) და განსაკუთრებით თვითმართვადი მანქანების ჩემი ვრცელი და მუდმივი გაშუქებისთვის იხ. ბმული აქ.

მსურს კიდევ უფრო განვმარტო, რა იგულისხმება, როდესაც ვგულისხმობ ნამდვილ თვითმართველ მანქანებს.

თვითმართვადი მანქანების დონის გააზრება

დაზუსტების მიზნით, ნამდვილი თვითმართვადი მანქანებია ის მანქანები, სადაც AI მართავს მანქანას მთლიანად დამოუკიდებლად და არ არის ადამიანის დახმარება მართვის ამოცანის შესრულებისას.

ეს უმართავი მანქანები განიხილება დონე 4 და დონე 5 (იხილეთ ჩემი ახსნა ეს ბმული აქ), ხოლო მანქანა, რომელიც მოითხოვს ადამიანის მძღოლს მართვის ძალისხმევის თანაზიარებას, ჩვეულებრივ განიხილება მე-2 ან მე-3 დონეზე. მანქანები, რომლებიც ერთობლივად იზიარებენ მართვის ამოცანას, აღწერილია, როგორც ნახევრად ავტონომიური და, როგორც წესი, შეიცავს სხვადასხვა ავტომატური დანამატები, რომლებსაც მოიხსენიებენ, როგორც ADAADA
S (Advanced Driver-Assistance Systems).

მე-5 დონეზე ჯერ არ არის ნამდვილი თვითმართვადი მანქანა და ჩვენ ჯერ არ ვიცით, იქნება თუ არა ამის მიღწევა და არც რამდენი დრო დასჭირდება იქ მისასვლელად.

იმავდროულად, მე-4 დონის მცდელობები თანდათან ცდილობს მიაღწიოს გარკვეულ ტენდენციებს ძალიან ვიწრო და შერჩევითი საჯარო გზის გამოცდების გავლის გზით, თუმცა არსებობს კამათი იმის შესახებ, დაშვებული უნდა იყოს თუ არა ეს ტესტირება თავისთავად (ჩვენ ყველანი ვართ სიცოცხლისა და სიკვდილის ზღვის გოჭები ექსპერიმენტში. ზოგიერთი ამტკიცებს, რომ მიმდინარეობს ჩვენს მაგისტრალებზე და სხვა უბნებზე, იხილეთ ჩემი გაშუქება ეს ბმული აქ).

იმის გამო, რომ ნახევრად ავტონომიური მანქანები მოითხოვს ადამიანის მძღოლს, ამ ტიპის მანქანების მიღება მნიშვნელოვნად არ განსხვავდება, ვიდრე ჩვეულებრივი ავტომობილების მართვა, ასე რომ, ამ საკითხზე მათ შესახებ გაშუქება არც ისე ბევრია (თუმცა, როგორც ხედავთ ერთ წამში, შემდეგი პოზიციები ზოგადად მოქმედებს).

ნახევრად ავტონომიური მანქანებისთვის, მნიშვნელოვანია, რომ საზოგადოებამ წინასწარ უნდა გააფრთხილოს იმ შემაშფოთებელი ასპექტის შესახებ, რომელიც ბოლო დროს წარმოიქმნა, კერძოდ, რომ მიუხედავად იმ ადამიანთა მძღოლებისა, რომლებიც მუდმივად ავრცელებენ ვიდეოს განთავსებას, იძინებენ Level 2 ან Level 3 მანქანის საჭესთან. ჩვენ ყველამ უნდა ავარიდოთ შეცდომაში ყოფნას იმის მჯერა, რომ მძღოლს შეუძლია ნახევრად ავტონომიური მანქანის მართვის დროს, ყურადღება მიაქციოს მართვის ამოცანას.

თქვენ ხართ პასუხისმგებელი მხარე სატრანსპორტო საშუალების მართვის მოქმედებებისათვის, იმისდა მიუხედავად, თუ რამდენი ავტომატიზაცია შეიძლება მოხვდეს დონის 2 ან 3 დონეზე.

თვითმართვადი მანქანები და AI მიკერძოება Bounty Hunting

მე -4 და მე -5 დონის ჭეშმარიტი მართვის მოწმობისთვის, მართვის მოვალეობის შემსრულებელი ადამიანი ვერ იქნება.

ყველა ოკუპანტი მგზავრი იქნება.

AI აკეთებს მართვას.

დაუყოვნებლივ განხილვის ერთი ასპექტი გულისხმობს იმ ფაქტს, რომ AI დღეს ჩართული AI მართვის სისტემებში არ არის მგრძნობიარე. სხვა სიტყვებით რომ ვთქვათ, AI არის კომპიუტერზე დაფუძნებული პროგრამირებისა და ალგორითმების ერთობლიობა, და, რა თქმა უნდა, არ შეუძლია მსჯელობა ისე, როგორც ადამიანს შეუძლია.

რატომ არის ეს დამატებითი აქცენტი AI არ არის სენტიმენტალური?

იმის გამო, რომ მსურს ხაზი გავუსვა, რომ AI მართვის სისტემის როლზე მსჯელობისას, მე არ ვუწერ AI თვისებებს ადამიანის თვისებებს. გთხოვთ გაითვალისწინოთ, რომ ამ დღეებში არსებობს მუდმივი და საშიში ტენდენცია AI– ს ანტროპომორფირებისაკენ. სინამდვილეში, ადამიანები ადამიანის მსგავს გრძნობებს ანიჭებენ დღევანდელ AI- ს, მიუხედავად უდაო და დაუსაბუთებელი ფაქტისა, რომ ასეთი AI ჯერ არ არსებობს.

ამ დაზუსტებით შეგიძლიათ წარმოიდგინოთ, რომ AI მამოძრავებელი სისტემა არ იცის როგორმე "იცოდეს" მართვის ასპექტების შესახებ. მართვის მოწმობა და ყველაფერი, რაც მას მოყვება, უნდა იყოს დაპროგრამებული, როგორც თვითმართვადი მანქანის ტექნიკა და პროგრამული უზრუნველყოფა.

მოდით ჩავუღრმავდეთ უამრავ ასპექტს, რომლებიც ამ თემას ეხება.

პირველ რიგში, მნიშვნელოვანია გვესმოდეს, რომ ხელოვნური ინტელექტის მქონე ყველა მანქანა ერთნაირი არ არის. თითოეული ავტომწარმოებელი და თვითმართვადი ტექნოლოგიური ფირმა იყენებს თავის მიდგომას თვითმართვადი მანქანების შემუშავებასთან დაკავშირებით. როგორც ასეთი, ძნელია ყოვლისმომცველი განცხადებების გაკეთება იმის შესახებ, თუ რას გააკეთებენ ან არ გააკეთებენ AI მართვის სისტემები.

გარდა ამისა, როდესაც ნათქვამია, რომ ხელოვნური ინტელექტის მართვის სისტემა არ აკეთებს რაიმე განსაკუთრებულს, ამას შემდგომში შეიძლება გადალახოს დეველოპერები, რომლებიც ფაქტობრივად პროგრამირებენ კომპიუტერს ამის გასაკეთებლად. ეტაპობრივად, AI მართვის სისტემები თანდათან იხვეწება და ვრცელდება. არსებული შეზღუდვა დღეს შეიძლება აღარ არსებობდეს სისტემის მომავალ გამეორებაში ან ვერსიაში.

ვიმედოვნებ, რომ ეს უზრუნველყოფს საკმარის უამრავ სიფრთხილეს, რომ ემყარებოდეს იმას, რასაც მე ვაპირებ.

ჩემს სვეტებში მე უკვე ვრცლად განვიხილეთ შეცდომების შესახებ ორიენტირებული ბონუსებზე მონადირეების გამოყენება ავტონომიურ სატრანსპორტო საშუალებებისა და თვითმართვადი მანქანების სფეროში. ეს მიდგომა მართლაც მოხდა ამ ნიშში. არის ჩვეულებრივი დებატები იმის შესახებ, არის თუ არა ეს საღი აზრი. ძალისხმევა, როგორც წესი, იყო შეზღუდული ხასიათის, ხშირად შედარებით ჩუმად.

ანალოგიურად, დისკურსი შეიძლება წარმოიშვას, როდესაც აქცენტი გადაინაცვლებს ხელოვნური ინტელექტის მიკერძოებაზე ნადირობისკენ, ვიდრე თავად სისტემის შეცდომების ძიებაზე. ზოგიერთი ვარაუდობს, რომ ეს საზიზღარია, თუ ამას აკეთებთ, ჯარიმაა, თუ თავსატეხი არ არის.

აი რატომ.

პირველ რიგში, გასაგებად რომ ვთქვათ, არსებობს მრავალი გზა, რომლითაც ავტონომიური სატრანსპორტო საშუალებები და თვითმართვადი მანქანები ექვემდებარებიან AI მიკერძოებას, იხილეთ ჩემი გაშუქება: ბმული აქ მდე ბმული აქ, მხოლოდ რამდენიმეს დასახელებისთვის. როგორც ჩანს, ავტომწარმოებლები და თვითმართვადი მანქანების ფირმები გონივრულად შეეცადნენ თავიდან აიცილონ ხელოვნური ინტელექტის მიკერძოება მათ AI სისტემებში. ასეთი ფირმების წინააღმდეგ სამართლებრივი და ეთიკური ქარიშხალი უდავოდ ინტენსიური იქნება.

არის თუ არა ხელოვნური ინტელექტის მიკერძოების პრემიაზე ნადირობის მცდელობის გამოყენება შესაფერისი მიდგომა ამ კონკრეტულ კონტექსტში?

ერთი პასუხი არის ის, რომ დიახ, ეს მოსახერხებელი იქნება და უზრუნველყოფს ახალი თვალების უამრავ „უფასო“ კომპლექტს, რათა სცადოთ და დაიჭიროთ AI თვითმართვადი მანქანის ნებისმიერი ჩაშენებული AI მიკერძოება ან მსგავსი. ხელოვნური ინტელექტის დეველოპერების უმეტესობა, რომლებიც ქმნიან თვითმართველ მანქანებს, დაკავებულია ხელოვნური ინტელექტის შექმნით, რომელსაც შეუძლია უსაფრთხოდ მართოს მანქანა A წერტილიდან B წერტილამდე. ისინი დაკავებულნი არიან ამ ძირითადი შესაძლებლობებით და არ აქვთ დრო და ყურადღება რაიმე AI მიკერძოებაზე, რომელიც შეიძლება იყოს სადღაც მათი AI.

სხვა პასუხი არის ის, რომ არა, ავტონომიურ მანქანებსა და თვითმართველ მანქანებზე ნადირობის დაშვება ნებისმიერ საფუძველზე, იქნება ეს შეცდომები თუ ხელოვნური ინტელექტის მიკერძოება, უბრალოდ სასტიკად უნდა იქნას აცილებული. არგუმენტი არის ის, რომ ეს მანქანები და მათი AI არის სიცოცხლის ან სიკვდილის კალიბრის. ხელოვნური ინტელექტის ნებისმიერი ფორმით არევა შეიძლება გარკვეულწილად დამღუპველი იყოს AI-სთვის და გავლენა მოახდინოს ხელოვნური ინტელექტის მართვის სისტემაზე.

ამ ბოლო პუნქტის კონტრარგუმენტი არის ის, რომ ბონუსებზე მონადირეებს არ შეუძლიათ შეცვალონ ხელოვნური ინტელექტი, რომელსაც ისინი იკვლევენ. ამდენად, არ არსებობს საშიშროება, რომ ისინი აერიონ AI-ს და ამ კონტექსტში AI მოულოდნელად გადაიქცეს AI-ის მართვის სისტემად. ბონუსებზე მონადირეებს აქვთ მხოლოდ წაკითხვადი წვდომა. მათთვის უფრო შორს წასვლის უფლება იქნება საკმაოდ სისულელე და დიდი შეცდომა.

ამ კონტრარგუმენტის საპირისპირო არგუმენტი არის ის, რომ ბონუსებზე მონადირეებს თქვენი ხელოვნური ხელოვნური ინტელექტის შესწავლის დაშვებითა და წახალისებით, მთელი საქმე მატყუარა ხდება. ამ ბონუსებზე მონადირეებმა შეიძლება მოიფიქრონ ნებისმიერი აღმოჩენილი ხარვეზის ან მიკერძოების გამოყენების გზები. ეს ექსპლოიტეტები თავის მხრივ შეიძლება იყოს მზაკვრული მიზნებისთვის. ჯობია არ მოიწვიოთ "ქურდები" თქვენს სახლში, ასე ვთქვათ. როგორც კი სახსარი ამოიჭრება, თქვენ საბოლოოდ პრობლემების გროვაში აღმოჩნდებით.

მათთვის, ვისაც აქვს სიცოცხლის ან სიკვდილის მასშტაბის AI სისტემები, რწმენა არის ის, რომ ძვირფასი ნადირობის შეტევის შედეგები გაცილებით ნაკლებად სარისკოა. შეიძლება ასეც იყოს. მეორეს მხრივ, თუ ფირმამ ჩაასხა თავისი ფული ხელოვნური ინტელექტის სისტემაში, რომლის უზურპაციასაც მონადირეები ახერხებენ, შეიძლება ვივარაუდოთ, რომ რეპუტაციის ზიანი და სხვა პოტენციური ზიანი მაინც დააზარალებს.

არ არის უფასო ლანჩი, როდესაც საქმე ეხება ხელოვნური ინტელექტის ტენდენციურ ნადირობას.

სწრაფი დახურვის შენიშვნა ახლა.

როდესაც ცნობილ უკანონო ჯესი ჯეიმსს ეძებდნენ ძველი დასავლეთის დროს, დაიბეჭდა "ძებნილი" პლაკატი, რომელიც სთავაზობდა 5,000 დოლარს მის დაჭერისთვის (მკვდარი ან ცოცხალი). ეს იყო საკმაოდ დიდი თანხა იმ დროისთვის. მისივე ბანდის ერთ-ერთმა წევრმა აირჩია ესროლა ჯესი და მიეღო ჯილდო. ვფიქრობ, ეს გვიჩვენებს, რამდენად ეფექტური შეიძლება იყოს ბონუსები.

იქნება თუ არა ხელოვნური ინტელექტის მიკერძოების ბონუტი მონადირეების გამოყენება კარგი, თუ ცუდი?

თუ აირჩევთ ხელოვნური ინტელექტის მიკერძოების ბონუსებზე მონადირის მცდელობას, მე გირჩევთ, რომ თვალები გქონდეთ ფართოდ გახელილი და მუდამ მხარზე იხედოთ. ეს გონივრულია თქვენთვის და თქვენი AI. თქვენ არასოდეს იცით, რა შეიძლება მოხდეს, მათ შორის, რომ მოტყუებულმა ბონუსზე მონადირე რატომღაც ფარულად ათავსებს AI-ის მიკერძოებას თქვენს AI-ში და უყვირის მსოფლიოს, რომ მათ აღმოაჩინეს არაკეთილსინდისიერი AI მიკერძოება თქვენს AI-ში. შესაძლოა, ამას აკეთებდნენ თავხედური და უზომო მცდელობით, ეძიონ სიკეთის ჯილდო, პლუს გამოაცხადონ თავიანთი თავი გმირად, რამაც არსებითად მიიღო ამაყი ჯესი ჯეიმსი.

იფიქრეთ იმაზე, რომ მგრძნობიარე AI-ს ალბათ არ მოეწონება შემაშფოთებელი მკვდარი-ან-ცოცხალი დებულების იდეა, შეიძლება ასე უხერხულად ვივარაუდოთ.