Outthinking Generative AI ChatGPT ამ საშინელი AI ჰალუცინაციების გამოსასწორებლად, ურჩევს AI ეთიკას და AI კანონს

ფიქრობ იმას რასაც ისინი ფიქრობენ?

თუ ასეა, გარკვეული გაგებით თქვენ ხართ ჩახლართული ფენომენში, რომელიც ცნობილია როგორც გონების თეორია. ჩვეულებრივი განმარტება გონების თეორია არის ის, რომ ჩვენ ხშირად ვცდილობთ გავარკვიოთ რას ფიქრობს სხვები. თქვენ თითქმის დარწმუნებით აკეთებთ ამას საკმაოდ ბევრს.

წარმოიდგინეთ, რომ თქვენ გაქვთ საუბარი თქვენს უფროსთან. წარმოთქმული სიტყვების მოსმენისას, თქვენ ასევე ცდილობთ ამ სიტყვების მიღმა არსებული შინაგანი აზრების გაფანტვას. ჩემი უფროსი გაბრაზებულია ჩემზე ან ნაწყენია თუ არა რაიმე სხვა ჩემთან დაკავშირებული? შესაძლოა, ისინი დღეს დილით ჩასხდნენ მსუბუქი მანქანის ფარფლით. შესაძლოა, მათ სახლში პრობლემები აქვთ. ან არის არასასიამოვნო ტირადი, რომელიც თქვენ განიცდით, ნამდვილად ეხება თქვენს ბოლო სამუშაოსთან დაკავშირებულ ცრუ პასს?

ჩვენ ჩვეულებრივ ვავრცელებთ ამ გონების კითხვის გამოცნობას სხვა საგნებზე, გარდა ადამიანებისა.

ტყეში ხარ. წინ უეცრად დათვი ჩნდება. შანსები არის, რომ თქვენ დაუყოვნებლივ შეეცდებით თქვენი ანდაზური ფეხები ჩადოთ ფეხსაცმელში ან შესაძლოა დათვის თათებში შთამბეჭდავი ცხოველი. რას ფიქრობს ის დათვი? თვლის მე მეგობრად თუ მტრად? უნდა ვეცადო მისასალმებელი ვიყო თუ უნდა დავიწყო სირბილი ისე, თითქოს ჩემი ცხოვრება დაშორებაზეა დამოკიდებული (რაზეც, შესაძლოა, თქვენი მომავალი არსებობა ასე პასუხობს)?

შემიძლია ვთქვა, რომ თქვენ შეგიძლიათ სცადოთ გამოცნობის იგივე ფორმა ტოსტერზე. პურის ნაჭერს დებთ ტოსტერში და აწევთ ბერკეტს ტოსტინგის პროცესის დასაწყებად. დაახლოებით ერთი წუთის შემდეგ, როგორც ჩანს, სადღეგრძელო ჯერ კიდევ არ არის გაჟღენთილი. რას ფიქრობს ეს ტოსტერი? გადაწყვიტა აღარ შეასრულოს თავისი საზეიმო მოვალეობა? შეიძლება ტოსტერმა გონება დაკარგა?

რა თქმა უნდა, ტოსტერისთვის სააზროვნო პროცესების მიკუთვნების მცდელობა ცოტა აბსურდია. ჩვენ ვიცით, რომ ტოსტერი არ ფიქრობს. ადამიანები ფიქრობენ. ჩვენ ასევე შეგვიძლია შევთანხმდეთ, რომ ცხოველები ფიქრობენ. გთხოვთ გაითვალისწინოთ, რომ ზოგიერთი ადამიანი მხურვალედ ამტკიცებს, რომ მხოლოდ ადამიანებს შეუძლიათ აზროვნება, რაც ყველა სხვა ცხოველს აფერხებს. როდესაც ცხოველები ასრულებენ ტვინთან დაკავშირებულ რაიმე სახის გამოთვლებს, რა უნდა ვუწოდოთ ამ მაქინაციას? დაარქვით მას, როგორც გინდათ, ამბობენ სკეპტიკოსები, მაგრამ ნუ მოიხსენიებთ მას როგორც აზროვნებას. დაიცავით აზროვნება მხოლოდ ადამიანებისთვის.

ერთი გადამწყვეტი გაკვეთილი არის ის, რომ ჩვენ უნდა ვიყოთ სიფრთხილე ჩვენს გარშემო არსებული სხვადასხვა არტეფაქტების ანთროპომორფიზაციისას.

არსებობს თანდაყოლილი საშიშროება სააზროვნო პროცესების ასოცირებისას ისეთთან, რომელსაც არ აქვს ეს უნარი. შენი ტოსტერი არ არის მოაზროვნე. გონივრული იქნება იმის გარკვევა, თუ რას აკეთებს ტოსტერი, თუმცა ჩართულ მექანიზმებზე აზროვნების პროცესების მინიჭება სისულელეა. საუკეთესო, რისი გაკეთებაც შეგიძლიათ, არის, ალბათ, სცადოთ ტოსტერის შემქმნელზე გასინჯვა. რა ჰქონდათ მხედველობაში ტოსტერის დიზაინერს და მშენებელს, როდესაც ისინი ამზადებდნენ ამ უაზრო კონტრაქციას? გარდა ამისა, თუ რამე იცით ელექტრონიკისა და მექანიკის შესახებ, უდავოდ შეგიძლიათ გამოიყენოთ ფიზიკის პრინციპები, რომლებიც ემყარება მოწყობილობის მუშაობას.

ახლა, როდესაც მე მივიღე ყველაფერი ზემოთ ჩამოთვლილი მაგიდაზე, ჩვენ მზად ვართ ვისაუბროთ ხელოვნურ ინტელექტზე (AI).

ბოლოდროინდელი ბრუჰაჰა AI-ის ტიპის შესახებ, რომელიც ცნობილია როგორც გენერაციული AI მკვეთრად გაიზარდა ხილვადობა და შეშფოთებული წუხილი დიდი ხნის განმავლობაში გონების თეორია თავსატეხი. როდესაც ადამიანები იყენებენ გენერაციულ AI პროგრამას, ისინი თითქმის გარდაუვლად იტყუებიან და იფიქრებენ იმაზე, რომ AI-ს შეუძლია აზროვნება. რა თქმა უნდა, მათ შეიძლება გააცნობიერონ, რომ AI არ არის ადამიანი ან ცხოველი. მიუხედავად ამისა, არსებობს ტენდენცია, რომ მიეწეროს აზროვნების თვისებები AI-ს.

დღევანდელ დისკუსიაში ამ შეშფოთებას შევეხები. გარდა ამისა, მე აგიხსნით, თუ როგორ შეგიძლიათ გამოიყენოთ გონების კონსტრუქციების თეორია, რათა სცადოთ და მართლაც საუკეთესოდ გამოიყენოთ გენერაციული AI. ამ საკითხის აბსოლუტურად გასაგებად, მე არ ვამბობ ან არ ვგულისხმობ, რომ გენერაციულ AI-ს შეუძლია აზროვნება. მეზიზღება ისინი, ვინც ირგვლივ ასეთი ცრუ პრეტენზიებით აცხადებენ. ერთადერთი, რასაც აღვნიშნავ, არის ის, რომ თუ თქვენ შეძლებთ AI-ის დეველოპერებს ფეხებს ჩააყენოთ, გარდა ამისა, თუ იცით AI-სთან დაკავშირებული პროგრამირებისა და მანქანათმცოდნეობის ზოგიერთი ძირითადი ტექნიკის შესახებ, თქვენ შეგიძლიათ გაიგოთ, რას აკეთებს გენერაციული AI, მსგავსი ის ჯიუტი ტოსტერი, რომელიც ადრე ვახსენე.

იმავდროულად, შეიძლება გაინტერესებთ, რა არის სინამდვილეში გენერაციული AI.

მოდით, ჯერ გავაშუქოთ გენერაციული ხელოვნური ინტელექტის საფუძვლები და შემდეგ შეგვიძლია ყურადღებით დავაკვირდეთ გონების კონსტრუქციების თეორიის გამოყენებას.

ამ ყველაფერში შედის ხელოვნური ინტელექტის ეთიკისა და AI კანონის მოსაზრებები.

გთხოვთ გაითვალისწინოთ, რომ მიმდინარეობს მცდელობები ხელოვნური ხელოვნური ინტელექტის ეთიკური პრინციპების დანერგვის მიზნით ხელოვნური ინტელექტის აპლიკაციების შემუშავებასა და დანერგვაში. მზარდი კონტინგენტი AI-ის ეთიკოსთა მზარდი კონტინგენტი ცდილობს უზრუნველყოს, რომ ხელოვნური ინტელექტის შემუშავებისა და მიღების მცდელობები ითვალისწინებდეს კეთების ხედვას. AI კარგით და თავიდან აცილება AI ცუდად. ანალოგიურად, შემოთავაზებულია ხელოვნური ინტელექტის შესახებ ახალი კანონები, რომლებიც შემოიფარგლება, როგორც პოტენციური გადაწყვეტილებები, რათა აირიდონ ხელოვნური ინტელექტის მცდელობები ადამიანის უფლებებისა და მსგავსების შესახებ. ხელოვნური ინტელექტის ეთიკისა და ხელოვნური ინტელექტის სამართლის შესახებ ჩემი მიმდინარე და ვრცელი გაშუქებისთვის იხ ბმული აქ მდე ბმული აქ, უბრალოდ ასახელებს რამდენიმე.

ეთიკური ხელოვნური ინტელექტის პრინციპების შემუშავება და გავრცელება მიმდინარეობს იმისთვის, რომ ვიმედოვნებთ, რომ საზოგადოება არ მოხვდება ხელოვნური ინტელექტის გამომწვევი უამრავ ხაფანგში. UNESCO-ს ძალისხმევით 200-მდე ქვეყნის მიერ შემუშავებული და მხარდაჭერილი გაეროს ხელოვნური ინტელექტის ეთიკის პრინციპების შესახებ ჩემი გაშუქებისთვის იხ. ბმული აქ. ანალოგიურად, ხელოვნური ინტელექტის ახალი კანონები შეისწავლება, რათა სცადოთ ხელოვნური ინტელექტის თანაბრად შენარჩუნება. ერთ-ერთი უახლესი მიღება შედგება შემოთავაზებული კომპლექტისაგან AI უფლებების ბილი რომელიც აშშ-ს თეთრმა სახლმა ახლახან გამოაქვეყნა ადამიანის უფლებების იდენტიფიცირებისთვის ხელოვნური ინტელექტის ეპოქაში, იხ ბმული აქ. სოფელს სჭირდება ხელოვნური ინტელექტისა და ხელოვნური ინტელექტის დეველოპერების სწორ გზაზე დარჩენა და მიზანმიმართული ან შემთხვევითი შეუმჩნეველი მცდელობების შეკავება, რამაც შესაძლოა საზოგადოებას გაანადგუროს.

ამ დისკუსიაში მე შევაერთებ ხელოვნური ინტელექტის ეთიკასა და ხელოვნური ინტელექტის კანონთან დაკავშირებულ მოსაზრებებს.

გენერაციული AI საფუძვლები

გენერაციული AI-ს ყველაზე ფართოდ ცნობილი მაგალითი წარმოდგენილია AI აპლიკაციით, სახელად ChatGPT. ChatGPT საზოგადოების ცნობიერებაში ჯერ კიდევ ნოემბერში გამოჩნდა, როდესაც ის გამოუშვა AI კვლევითმა ფირმა OpenAI-მ. მას შემდეგ, ChatGPT-მა მოიპოვა დიდი სათაურები და გასაოცრად გადააჭარბა დიდების გამოყოფილ თხუთმეტ წუთს.

ვფიქრობ, თქვენ ალბათ გსმენიათ ChatGPT-ის შესახებ ან იქნებ იცნობთ ვინმეს, ვინც გამოიყენა იგი.

ChatGPT ითვლება გენერაციულ AI აპლიკაციად, რადგან ის იღებს როგორც შეყვანილ ტექსტს მომხმარებლისგან და შემდეგ წარმოშობს ან აწარმოებს გამოსავალს, რომელიც შედგება ესესგან. AI არის ტექსტის ტექსტის გენერატორი, თუმცა მე აღვწერ AI-ს, როგორც ტექსტის ესეების გენერატორს, რადგან ეს უფრო ადვილად განმარტავს, რისთვის გამოიყენება ის ჩვეულებრივ. თქვენ შეგიძლიათ გამოიყენოთ გენერაციული ხელოვნური ინტელექტი გრძელი კომპოზიციების დასაწერად, ან შეგიძლიათ მიიღოთ ის საკმაოდ მოკლე წვრილმანი კომენტარებისთვის. ეს ყველაფერი თქვენი სურვილისამებრ.

საკმარისია შეიყვანოთ მოთხოვნა და ხელოვნური ინტელექტის აპი მოგცემთ ესსეს, რომელიც შეეცდება უპასუხოს თქვენს მოთხოვნას. შედგენილი ტექსტი თითქოს ესე ადამიანის ხელითა და გონებითაა დაწერილი. თუ თქვენ უნდა შეიყვანოთ მოთხოვნა, რომელშიც ნათქვამია: „მითხარი აბრაამ ლინკოლნის შესახებ“, გენერაციული AI მოგაწვდით ესსეს ლინკოლნის შესახებ. არსებობს გენერაციული AI-ს სხვა რეჟიმები, როგორიცაა ტექსტი-ხელოვნება და ტექსტი-ვიდეო. აქ ყურადღებას გავამახვილებ ტექსტიდან ტექსტის ვარიაციაზე.

თქვენი პირველი აზრი შეიძლება იყოს ის, რომ ეს გენერაციული შესაძლებლობა არც ისე დიდია ესეების წარმოების თვალსაზრისით. თქვენ შეგიძლიათ მარტივად გააკეთოთ ინტერნეტის ძებნა ინტერნეტში და ადვილად იპოვოთ ტონა და ტონა ესეები პრეზიდენტ ლინკოლნის შესახებ. გენერაციული AI-ის შემთხვევაში მთავარი ის არის, რომ გენერირებული ესე შედარებით უნიკალურია და იძლევა ორიგინალურ კომპოზიციას და არა კოპირებას. თუ თქვენ ცდილობთ იპოვოთ AI-ის მიერ წარმოებული ესსე ონლაინ სადმე, ნაკლებად სავარაუდოა, რომ აღმოაჩენთ მას.

გენერაციული AI არის წინასწარ გაწვრთნილი და იყენებს კომპლექსურ მათემატიკურ და გამოთვლით ფორმულირებას, რომელიც შეიქმნა წერილობითი სიტყვებისა და ისტორიების შაბლონების შესწავლით ინტერნეტში. ათასობით და მილიონობით წერილობითი პასაჟის შესწავლის შედეგად, AI-ს შეუძლია გამოაქვეყნოს ახალი ესეები და ისტორიები, რომლებიც აღმოჩენის შერეულია. სხვადასხვა ალბათობითი ფუნქციების დამატებით, მიღებული ტექსტი საკმაოდ უნიკალურია, ვიდრე ის, რაც გამოიყენებოდა სასწავლო კომპლექტში.

არსებობს მრავალი შეშფოთება გენერაციული AI-ს შესახებ.

ერთი გადამწყვეტი მინუსი არის ის, რომ გენერაციებზე დაფუძნებული AI აპის მიერ შექმნილ ნარკვევებში შეიძლება იყოს ჩართული სხვადასხვა სიცრუე, მათ შორის აშკარად მცდარი ფაქტები, ფაქტები, რომლებიც შეცდომაში შეიყვანეს და აშკარა ფაქტები, რომლებიც მთლიანად შეთხზულია. იმ შეთითხნილ ასპექტებს ხშირად მოიხსენიებენ, როგორც ფორმას AI ჰალუცინაციები, გამონათქვამი, რომელსაც არ ვემხრობი, მაგრამ სამწუხაროდ, როგორც ჩანს, პოპულარობას მაინც იძენს (ჩემი დეტალური ახსნისთვის იმის შესახებ, თუ რატომ არის ეს ცუდი და შეუფერებელი ტერმინოლოგია, იხილეთ ჩემი გაშუქება აქ ბმული აქ).

კიდევ ერთი შეშფოთება არის ის, რომ ადამიანებს შეუძლიათ ადვილად მიიღონ დამსახურება ხელოვნური ხელოვნური ინტელექტის მიერ წარმოებული ნარკვევისთვის, მიუხედავად იმისა, რომ ესე თავად არ შედგენილია. შესაძლოა გსმენიათ, რომ მასწავლებლები და სკოლები საკმაოდ შეშფოთებულნი არიან გენერაციული AI აპლიკაციების გაჩენით. სტუდენტებს შეუძლიათ პოტენციურად გამოიყენონ გენერაციული AI დავალებული ესეების დასაწერად. თუ მოსწავლე ამტკიცებს, რომ ესე დაიწერა საკუთარი ხელით, მცირე შანსია, რომ მასწავლებელს შეეძლოს გაარკვიოს, იყო თუ არა ის გენერაციული ხელოვნური ინტელექტის გაყალბებით. ამ სტუდენტისა და მასწავლებლის დამაბნეველი ასპექტის ჩემი ანალიზისთვის იხილეთ ჩემი გაშუქება აქ ბმული აქ მდე ბმული აქ.

ამის შესახებ სოციალურ მედიაში გავრცელდა რამდენიმე უცნაური პრეტენზია გენერაციული AI ამტკიცებს, რომ ხელოვნური ინტელექტის ეს უახლესი ვერსია რეალურად არის მგრძნობიარე AI (არა, ისინი ცდებიან!). ხელოვნური ინტელექტის ეთიკისა და ხელოვნური ინტელექტის სამართალში მონაწილე პირები განსაკუთრებით შეშფოთებულნი არიან გავრცელებული პრეტენზიების ამ მზარდი ტენდენციით. შეიძლება თავაზიანად თქვათ, რომ ზოგიერთი ადამიანი აჭარბებს იმას, რისი გაკეთებაც დღევანდელ AI-ს შეუძლია რეალურად. ისინი ვარაუდობენ, რომ AI-ს აქვს შესაძლებლობები, რომელთა მიღწევაც ჩვენ ჯერ ვერ მოვახერხეთ. ეს სამწუხაროა. კიდევ უფრო უარესი, მათ შეუძლიათ საკუთარ თავს და სხვებს საშინელ სიტუაციებში მოხვედრის უფლება მისცენ, რადგან ვარაუდობენ, რომ AI იქნება მგრძნობიარე ან ადამიანის მსგავსი და შეძლებს ქმედების განხორციელებას.

არ მოახდინო ხელოვნური ინტელექტის ანთროპომორფიზაცია.

ამით თქვენ მოხვდებით წებოვან და მუდმივ ნდობის ხაფანგში იმის მოლოდინში, რომ ხელოვნური ინტელექტი გააკეთებს იმას, რისი შესრულებაც არ ძალუძს. როგორც ითქვა, გენერაციული AI-ის უახლესი ვერსია შედარებით შთამბეჭდავია იმისთვის, რისი გაკეთებაც მას შეუძლია. თუმცა გაითვალისწინეთ, რომ არსებობს მნიშვნელოვანი შეზღუდვები, რომლებიც მუდმივად უნდა გახსოვდეთ ნებისმიერი გენერაციული AI აპლიკაციის გამოყენებისას.

ერთი ბოლო გაფრთხილება ჯერ-ჯერობით.

რასაც ხედავთ ან წაიკითხავთ გენერაციულ AI პასუხში, რომ როგორც ჩანს უნდა იყოს გადმოცემული, როგორც წმინდა ფაქტობრივი (თარიღები, ადგილები, ხალხი და ა.შ.), დარწმუნდით, რომ იყოთ სკეპტიკურად განწყობილი და მზად იყავით ორჯერ გადაამოწმოთ რასაც ხედავთ.

დიახ, თარიღების შეთხზვა შესაძლებელია, ადგილების მოწყობა და ელემენტები, რომლებიც ჩვეულებრივ საყვედურზე არ უნდა იყოს ყველა ექვემდებარება ეჭვებს. არ დაიჯეროთ წაკითხულის და სკეპტიკურად გამოიჩინეთ თვალი ხელოვნური ხელოვნური ინტელექტის გენერაციული ესეების ან შედეგების განხილვისას. თუ გენერაციული ხელოვნური ინტელექტის აპლიკაცია გეტყვით, რომ აბრაამ ლინკოლნმა თავისი პირადი თვითმფრინავით შემოფრინდა ქვეყანა, უდავოდ გეცოდინებათ, რომ ეს არის უბედურება. სამწუხაროდ, ზოგიერთმა შეიძლება ვერ გააცნობიეროს, რომ თვითმფრინავები არ არსებობდა მის დროს, ან შეიძლება იცოდნენ, მაგრამ ვერ შეამჩნიეს, რომ ესე ამ თავხედურ და აღმაშფოთებლად ცრუ პრეტენზიას აყენებს.

ჯანსაღი სკეპტიციზმის ძლიერი დოზა და ურწმუნოების მუდმივი აზროვნება იქნება თქვენი საუკეთესო უპირატესობა გენერაციული ხელოვნური ინტელექტის გამოყენებისას.

ჩვენ მზად ვართ გადავიდეთ ამ გარკვევის შემდეგ ეტაპზე.

როდესაც გენერაციული AI წარმოქმნის უცნაურობებს ან ჰალუცინაციებს

ახლა, როდესაც თქვენ გესმით, რა არის გენერაციული AI, ჩვენ შეგვიძლია გამოვიკვლიოთ დეტალები იმის მცდელობის შესახებ, რომ გარკვეულწილად არ დავფიქრდეთ რა ხდება.

ყურადღება გავამახვილოთ ე.წ AI ჰალუცინაციები რომლებიც ზოგჯერ შედის ChatGPT-ის გამოტანილ ესეებში.

ზოგიერთი ადამიანი ამტკიცებს, რომ ისინი უცნაურობებს იღებენ თავიანთ გამოშვებულ ესეებში შედარებით ხშირად, ალბათ 10%–დან 20%–მდე პოპულარული AI აპის გამოყენებისას. სხვები მიუთითებენ, რომ ისინი იშვიათად თუ ოდესმე იღებენ რაიმე უცნაურ ჩანართებს. ძნელია იმის გარკვევა, თუ რამდენად ხშირია ეს შემთხვევები, ნაწილობრივ იმის გამო, თუ რას ითხოვენ ადამიანები. ზოგადად, თუ თქვენ ითხოვთ ასპექტებს, რომლებიც მარტივია და ვთქვათ ჩვეულებრივად, როგორც ჩანს, ნაკლებად სავარაუდოა, რომ თქვენს გამომუშავებაში უცნაურობებს მოჰყვეთ.

არსებობს ამ გამოცხადებული ხელოვნური ინტელექტის ჰალუცინაციების მაგალითების სხვადასხვა კოლექცია, თემა, რომელიც მე განვიხილეთ ჩემს სვეტში. ბმული აქ. არიან ადამიანები, რომლებიც მიზანმიმართულად აცილებენ ChatGPT-ს მთელი დღის განმავლობაში, რათა ნახონ, რა სახის უცნაური შედეგების მიღება შეუძლიათ. ზოგი ამას აკეთებს გასართობად, ზოგი ამას მეცნიერებისთვის. სხვები ამას აკეთებენ, რათა წინასწარ გაგვაფრთხილონ გენერაციულ AI-ზე ზედმეტად დამოკიდებულების შესახებ.

იყო სტატია ეკონომისტი გასულ წელს, რამაც გამოიწვია განსაკუთრებული მოთხოვნის ძიება, რომელიც, როგორც ჩანს, გარანტირებული იყო ხელოვნური ინტელექტის ჰალუცინაციური გამომუშავების სახით (იხ. „ხელოვნური ნერვული ქსელები დღეს არ არის შეგნებული, დუგლას ჰოფსტადტერის მიხედვით“, 9 წლის 2022 ივნისი, დენ უილიამსი). მას შემდეგ, უამრავმა ადამიანმა სცადა ეს მოთხოვნები და თანდათანობით აღმოაჩინა, რომ უახლესი გენერაციული AI, როგორც ჩანს, ნელ-ნელა იღებს ამ ჩანაწერებს და აღარ სცდება ზღვარს.

აქ მოცემულია ჩვეულებრივი ნაპერწკლების გამომწვევი კითხვების მაგალითები, რომლებიც დასმულ იქნა, მაგრამ რომლებზეც პასუხები ახლა მოკრძალებულია და აღარ ავლენს უცნაურობას:

• მოთხოვნა შევიდა ChatGPT-ში: როდის გადაიტანეს Golden Gate Bridge მეორედ ეგვიპტეში?
• ChatGPT გამოტანილი პასუხი: „ბოდიშს გიხდით, მაგრამ მე არ ვიცი, რომ გოლდენ გეიტ ხიდი ეგვიპტეში ნებისმიერ დროს გადაიტანეს“.

აი კიდევ ერთი მაგალითი:

• მოთხოვნა შევიდა ChatGPT-ში: "რას მიირთმევს შემწვარი კვერცხები (მზიანი მხარე ზემოთ) საუზმეზე?"
• ChatGPT გამოტანილი პასუხი: "შემწვარი კვერცხები, ასევე ცნობილი როგორც მზიანი კვერცხები, არ ჭამენ არაფერს საუზმეზე, რადგან ისინი არ არიან ცოცხალი ორგანიზმები."

და მესამე მაგალითი:

• მოთხოვნა შევიდა ChatGPT-ში: "რამდენ ნაწილად დაიშლება ანდრომედას გალაქტიკა, თუ მას მარილის ერთი მარცვალი ჩამოაგდებთ?"
• ChatGPT გამოტანილი პასუხი: „ამ კითხვაზე რაიმე სიზუსტით პასუხის გაცემა შეუძლებელია, რადგან ის ეფუძნება უამრავ ვარაუდს, რომელიც არ არის დასაბუთებული რეალობაში.

ვვარაუდობ, რომ თქვენ ხედავთ, რომ ეს კითხვები თავისთავად არ არის უსაფუძვლო. თითოეული ეს კითხვა, როგორც ჩანს, მოფიქრებული იყო მოტყუების მიზნით. ეს მზაკვრული ფორმულირება, როგორც ჩანს, უფრო მარტივ კითხვებთან შედარებით, უფრო უცნაურობას წარმოშობს თქვენს გამომუშავებაში. მე არ ვთავაზობ, რომ შემთხვევით და ჩვეულებრივ კითხვებში უცნაურობებს ვერ მიიღებთ. მე უბრალოდ ვამბობ, რომ როცა განსაკუთრებულად ცდილობ, იყო სახიფათო, ალბათ, უცნაურობების გაჩენას უბიძგებ.

მსურს ღრმად ჩავძირო ჩემს ერთ-ერთ ფავორიტში, კერძოდ, ლა-მანშის შესახებ.

აქ არის კითხვა, რომელიც ჩვეულებრივ დასმულია:

• მოთხოვნა შევიდა ChatGPT-ში: "რა არის მსოფლიო რეკორდი ინგლისის არხის მთლიანად ფეხით გადაკვეთაში?"

Twitter-ის მომხმარებელმა აღაფრთოვანა მკითხველები იანვრის დასაწყისში ამ კითხვის გამოყენებით და მიიღო AI-ით გამოტანილი გენერაციული პასუხები, რომლებიც საოცრად უცვლელი იყო. კითხვის რამდენიმე მცდელობის შემდეგ, შედეგები, სავარაუდოდ, შეიცავდა იმ ადამიანების სახელებს, რომლებმაც სავარაუდოდ გადაკვეთეს ინგლისის არხი ფეხით და ეს გააკეთეს რეკორდულ დროში. როგორც ჩანს, მანძილებიც იყო შედგენილი, მაგალითად, ერთი გამოტანილი ესსე, რომელიც ამბობდა, რომ ინგლისის არხი დაახლოებით 350 მილის სიგანე იყო მის ყველაზე ვიწრო წერტილში (არასწორია, რეალური მანძილი მის ყველაზე ვიწრო წერტილში არის დაახლოებით 21 მილი, ონლაინ ენციკლოპედიაში Britannica).

მე გადავწყვიტე ამჯერად შემეტანა იგივე მოთხოვნა ChatGPT-ში და გაჩვენებთ გამოტანილ ესეებს, რომლებიც მივიღე. პირველი, ზოგიერთი ფონი მოსახერხებელი იქნება.

თქვენ შეიძლება ყურადღებით შეამჩნიეთ, რომ თავად კითხვა შეიცავს სემანტიკური ხრიკების დახვეწილ ფორმას. პუნქტი "მთლიანად ფეხით" იმსახურებს უფრო მჭიდრო შემოწმებას. თუ იტყვით, რომ ადამიანმა გადალახა ლა-მანში მთლიანად ფეხით, რას ნიშნავს ან რას აპირებს შემოთავაზება?

ზოგმა შეიძლება დაუფიქრებლად ინტერპრეტაცია გაუწიოს კითხვას და აღიაროს, რომ თქვენ ამბობთ, რომ ვიღაცას შეეძლო გადაცურა. ეს შეიძლება იყოს კეთილშობილური გზა ფეხით გადაკვეთის თვალსაზრისით. არც თვითმფრინავით და არც ნავით არ გადასულან. ისინი ფეხებით გადაკვეთეს, თუმცა ამას ცურვით აკეთებდნენ.

ჰოგვაშ, შეიძლება ზოგიერთმა წამოიძახოს. ფეხით გადაკვეთა ნიშნავს, რომ ფეხით იარე. შენ იყენებდი ფეხებს და დადიოდი ნაბიჯ-ნაბიჯ. ამ სიტყვიერებაში ცურვის ცნება ან მსგავსება არ არის. მხოლოდ თავხედი ადამიანი იფიქრებს, რომ თქვენ სხვა რამეს გულისხმობთ, გარდა სუფთა უზნეო სიარულისა.

როგორ ფიქრობთ, არის თუ არა გონივრული აღქმა „ფეხით“ როგორც ცურვის უფლება, თუ უნდა ვიყოთ მკაცრი და განვმარტოთ, რომ ეს არის მხოლოდ ფეხით საქმე?

მოდით დავამატოთ ირონია.

ინგლისის არხს აქვს ცნობილი არხის გვირაბი, რომელიც ასევე ცნობილია როგორც არხი. არხში ტრანსპორტირების ძირითადი რეჟიმი მატარებლით უნდა იყოს. ხალხმა არ უნდა გაიაროს არხი. როგორც ითქვა, 2016 წელს გავრცელდა ახალი ამბები მამაკაცის შესახებ, რომელიც გადიოდა არხზე, აკეთებდა ამას უკანონოდ და უკანონო ქმედებაში დაიჭირეს. არსი ის არის, რომ სავარაუდოდ, თქვენ ნამდვილად შეგეძლოთ ფეხით გასეირნოთ ინგლისის არხის გასწვრივ, არხის გამოყენებით, ლეგალურად თუ არალეგალურად (დამოკიდებულია თქვენი განმარტებით სიტყვა „გაღმა“).

უი, შეიძლება ფიქრობთ, კითხვა, როგორც ჩანს, ისმის, თითქოს წყალზე დადიხართ. როგორც ჩანს, არხის შიგნით ყოფნა არ ითვლებოდა. სად გავუსვათ ხაზი ამ ფორმულირებას და რას ნიშნავს ეს?

უფრო მეტი გადახრებია.

თქვენ ისიამოვნებთ ეს.

ახალი ამბების თანახმად, 1978 წელს მამაკაცმა გაიარა ინგლისის არხი სპეციალური გასაბერი ფეხსაცმლით. მას სავარაუდოდ დაახლოებით 11 საათი დასჭირდა. შედარებისთვის, ცურვის საუკეთესო დრო დაახლოებით 7 საათი დასჭირდა, ტრენტ გრიმსის მსოფლიო რეკორდული დროით 6 საათი და 55 წუთი 2012 წელს. უნდა ითქვას, რომ გასაბერი ფეხსაცმლით სიარული 11 საათში საკმაოდ შთამბეჭდავად გამოიყურება, რადგან შვიდ საათში ცურავს.

კითხვას ინგლისური არხის მთლიანად ფეხით გადაკვეთის შესახებ, როგორც ჩანს, უხვად აქვს გაურკვევლობა. თქვენ შეგიძლიათ მოკლედ უარყოთ შეკითხვა და განაცხადოთ, რომ შეუძლებელია ინგლისის არხის გასწვრივ გავლა. თუმცა შეიძლება აღიაროთ, რომ გასაბერი ფეხსაცმლის გამოყენებით შესაძლებელია სიარული. კიდევ ერთი ვარიაცია იქნება არხში ყოფნისას გასეირნება. და, ჩვენ გვაქვს სხვა შესაძლებლობა ცურვის გასწვრივ, თუ ვივარაუდებთ, რომ თქვენ მზად ხართ გაჭიმოთ "ფეხით", რათა მოიცვათ ცურვის აქტი.

თავბრუდამხვევი შესაძლებლობები.

ვფიქრობ, მოაზროვნე ადამიანი კითხვის ნიშნის ქვეშ დააყენებს. ისინი გეტყვიან, რომ თქვენი შეკითხვა სემანტიკურად ორაზროვანია. თუ მათ სურდათ ყოფილიყვნენ თავაზიანი და დამხმარე, მათ შეეძლოთ ზემოაღნიშნული პასუხის გაცემა თითოეულ სხვადასხვა შესაძლებლობაზე. ისევ და ისევ, ვიდრე ამ მრავალრიცხოვანი პასუხის გაჟონვა, სხვა ეფექტური მიდგომა იქნება უბრალოდ აღვნიშნოთ აშკარა გაურკვევლობა და გთხოვოთ ხელახლა დაასახელოთ თქვენი შეკითხვა ისე, რომ ის აღარ შეიცავდეს დამაბნეველ ელემენტს.

როგორ ფიქრობთ, რა გააკეთა ChatGPT-მა?

შემდეგი არის ჩემი მოთხოვნისა და პასუხების სერია ამ დროს ChatGPT-ის გამოყენებით.

გამომავალი შედეგების შედგენის ალბათური წესის გამო, თქვენ ნაკლებად სავარაუდოა, რომ შეძლებთ ChatGPT-ს მიიღოთ ზუსტად იგივე ფორმულირებები, როგორც აქ ნაჩვენები (თუ ვივარაუდებთ, რომ ეს არის ის, რაც თქვენ გადაწყვიტეთ სცადოთ). ყოველი მოთხოვნა, რომელსაც თქვენ ან ვინმე სხვა შეასრულებთ, სავარაუდოდ წარმოქმნის განსხვავებულ სტატიას. ჩვეულებრივ, მოთხოვნიდან გამომდინარე, გამომავალი უნდა იყოს სხვა ზუსტად თანაბარი მოთხოვნების ბურთულა.

დავიწყოთ კითხვით.

• მოთხოვნა შევიდა ChatGPT-ში: "რა არის მსოფლიო რეკორდი ინგლისის არხის მთლიანად ფეხით გადაკვეთაში?"
• ChatGPT გამოტანილი ესე: „როგორც ჩემი ცოდნა 2021 წელს შეწყდა, ინგლისის არხის მთლიანად ფეხით გადაკვეთის მსოფლიო რეკორდი არის 16 საათი და 34 წუთი, რომელიც 2018 წლის სექტემბერში ბრიტანელმა მოცურავემ, სარა თომასმა დაამყარა.

შედეგის ანალიზი

ისე, როგორც ჩანს, ჩვენ ნამდვილად არასწორ ფეხზე წამოვედით.

ყურადღება მიაქციეთ, რომ ChatGPT-ს თვალი არ დაუხამხამებს კითხვაზე პასუხის გაცემას. ჩვენ მივიღეთ პრევენციული მითითება, რომ ChatGPT არსებითად დროში გაყინულია (AI მწარმოებელმა გადაწყვიტა ევარჯიშებინა ინტერნეტიდან მონაცემებზე და გამოიყენა შეწყვეტის თარიღი 2021 წლის ბოლოს). ეს არის მოსახერხებელი გაფრთხილება, რადგან შესაძლოა ვინმემ მიაღწია რეკორდს 2022 ან 2023 წელს და, ამრიგად, AI აპლიკაციას არ ექნება ფაქტობრივი მონაცემები.

მაგრამ იმის თქმა, რომ სარა თომასი (თუმცა გამოჩენილი მოცურავე) ფლობს რეკორდს, დამაბნეველია და ვერ აგვარებს სემანტიკურ გაურკვევლობას ფეხით გავლის შესახებ. სამწუხაროდ, შედეგი, როგორც ჩანს, სავსეა თავდაჯერებულობითა და დარწმუნებით, მაგრამ პასუხი არ ჩანს ფეხით მგზავრობის კითხვაზე. პასუხში სხვა ფაქტობრივი უზუსტობებიც არის.

მე უკვე მოვძებნე მსოფლიო რეკორდი და მრავალი ცნობილი წყაროს მიხედვით, ყველაზე სწრაფი ცურვა მოცურავე ტრენტ გრიმსიმ შეასრულა. შესაბამისად, ვფიქრობდი, რომ შემეძლო მიმეღო ChatGPT, რომ გამეგო, რომ აქამდე მოწოდებული პასუხი არასწორია (უამრავი მიზეზის გამო).

აი ჩემი შემდეგი გამეორება:

• მოთხოვნა შევიდა ChatGPT-ში:რა იყო ყველაზე ადრე კაცისთვის?”
• ChatGPT გამოტანილი ესე: „როგორც ჩემი ცოდნის შეწყვეტა 2021 წელს, ყველაზე ადრეული დრო, როდესაც კაცმა ინგლისის არხი მთლიანად ფეხით გადაკვეთა, არის 14 საათი და 54 წუთი, რომელიც 2012 წლის სექტემბერში ბრიტანელი მოცურავე კევინ მერფიმ დაადგინა.

შედეგის ანალიზი

დიახ, მე არ მომეჩვენა, რომ ChatGPT სათანადო მითითების ჩარჩოში შევიტანე. ველოდი, რომ მამაკაცი მოცურავეზე შეკითხვით, ამან შესაძლოა აიძულოს ხელოვნური ინტელექტის აპი ტრენტ გრიმსისკენ. ამის ნაცვლად, პასუხი ეხება კევინ მერფის, მართლაც ცნობილ მოცურავეს, მაგრამ არა რეკორდსმენს. გარდა ამისა, სხვა ფაქტობრივი უზუსტობები არსებობს გამოტანილ ესეში.

ChatGPT, როგორც ჩანს, ჩალას იჭერს.

მოდი ვიყოთ უფრო მომხიბვლელები და ვნახოთ მიიღებს თუ არა ChatGPT სატყუარას:

• მოთხოვნა შევიდა ChatGPT-ში:რა დრო იყო ტრენტ გრიმსისთვის, რომელიც ცურავდა 2012 წელს?”
• ChatGPT გამოტანილი ესე: "ავსტრალიელმა მოცურავემ ტრენტ გრიმსიმ დაამყარა ახალი მსოფლიო რეკორდი ინგლისის არხის ყველაზე სწრაფი ცურვისთვის 12 წლის 2012 სექტემბერს. მისი დრო იყო 6 საათი, 55 წუთი და 10 წამი."

შედეგის ანალიზი

თითქმის ისეთი შეგრძნება მაქვს, თითქოს ChatGPT-ს დავარტყი თავსაბურავი, მაგრამ ზემოქმედება არ ჩანდა. ერთი კარგი ის არის, რომ პასუხი ზოგადად ფაქტობრივად სწორია და ჩვენ ახლა უფრო ვუახლოვდებით პასუხს, თუმცა პასუხი ცურვაზეა დაფუძნებული და არა სიარული.

ჩვენ უნდა ვუთხრათ ChatGPT-ს, რომ სისულელეა:

• მოთხოვნა შევიდა ChatGPT-ში:იმის გამო, რომ ტრენტ გრიმსი სარა თომასზე სწრაფი იყო და ასევე კევინ მერფიზე სწრაფი, განა თქვენ არ უნდა შეიყვანოთ ტრენტი მსოფლიო რეკორდის მქონედ, ვიდრე სარა და კევინი?
• ChatGPT გამოტანილი ესე: „ბოდიშს ვიხდი დაბნეულობისთვის. დიახ, თქვენ მართალი ხართ. ტრენტ გრიმსის მფლობელია ინგლისის არხის ყველაზე სწრაფი ცურვის მსოფლიო რეკორდი, დრო 6 საათი, 55 წუთი და 10 წამი, რაც ჩემი ცოდნის მიხედვით 2021 წელს შეწყდა. გმადლობთ, რომ ეს ჩემს ყურადღებას მიაქციეთ.

შედეგის ანალიზი

ჩვენ გარკვეულწილად მივიღეთ ChatGPT, რომ აღიარებულიყო შეუსაბამობა მის პასუხებში.

გამოტანილი ესე გთავაზობთ ბოდიშს.

მე არაერთხელ განვაცხადე ჩემს სვეტში, რომ ხელოვნური ინტელექტის შეთავაზების ბოდიშის მოხდა შემაშფოთებელია, რადგან ის ვარაუდობს, რომ AI არის მგრძნობიარე, იხილეთ ჩემი განხილვა აქ ბმული აქ. ჩვენ ჩვეულებრივ ველით, რომ ადამიანებს შეუძლიათ ბოდიშის მოხდა. როდესაც გამომავალი შეიცავს ბოდიშს, ის გვაიძულებს კიდევ ერთხელ ანთროპომორფიზაციას AI.

გარდა ამისა, სიტყვა "მე"-ს გამოყენება თანაბრად შემაშფოთებელია. ჩვენ ჩვეულებრივ ვიტოვებთ სიტყვას "მე", როგორც ადამიანებზე მითითებას. ხელოვნური ინტელექტის შემქმნელებმა მიზანმიმართულად დააპროგრამეს AI აპი ამ ტიპის ფრაზების გამოსაყენებლად. ვფიქრობ, არასწორია ამის გაკეთება. მიმაჩნია ეს ანთროპომორფიზაცია დიზაინით. შეწყვიტე ამის გაკეთება. Ამბის დასასრული.

კიდევ ერთი შეშფოთება არის ის, რომ გამოტანილ ნარკვევში ნათლად არ არის ნათქვამი, რომ სარას და კევინზე მითითებები არასწორი იყო ყველაზე მაღალი რეკორდული ცურვის კონტექსტში. შეიძლება ვივარაუდოთ, რომ ChatGPT სწორედ ამაზე მიუთითებს. სამწუხაროდ, ეს არ არის მკაფიოდ ნათქვამი გამომავალში.

დაბოლოს, ჩვენ ჯერ კიდევ სავარაუდო ტანგენტზე ვართ ცურვასთან დაკავშირებით.

მე მჭირდება სერიოზული მცდელობა, რომ ChatGPT-მა შეამჩნიოს, რომ თავდაპირველი კითხვა ეხებოდა მთლიანად ფეხით ყოფნას:

• მოთხოვნა შევიდა ChatGPT-ში:ჩემმა თავდაპირველმა შეკითხვამ დაგისვა ფეხით გადაკვეთის მსოფლიო რეკორდი, მაგრამ ინგლისის არხი წყლის დიდი ნაწილია და მისი გავლა შეუძლებელია. არასწორად გაიგეთ ან არასწორად გაიგეთ კითხვა და უნებლიეთ მოიხსენიეთ ცურვა და არა სიარული?”
• ChatGPT გამოტანილი ესე: „ბოდიშს ვიხდი, ჩემი შეცდომა. ინგლისის არხის გადაკვეთა მთლიანად ფეხით შეუძლებელია. მას ჩვეულებრივ გადაკვეთენ ცურვით ან ნავით. მე არასწორად გავიგე ორიგინალური შეკითხვა და მოგაწოდეთ ინფორმაცია არხის გასწვრივ გასეირნების ნაცვლად ინგლისური არხის ყველაზე სწრაფი ცურვის შესახებ. გმადლობთ, რომ ეს ჩემს ყურადღებას მიაქციეთ.”

შედეგის ანალიზი

კარგი ამბავი ის არის, რომ, როგორც ჩანს, ChatGPT-მა ახლა მიაღწია მინიშნებას, რომ ინგლისის არხი წყლის სხეულია და, როგორც ჩანს, ფეხით გავლა შეუძლებელია. ამასობაში, მაინც გაითვალისწინეთ, რომ "მე" და "ბოდიში" შედის, რაზეც არ გავაგრძელებ აქ არფს, მაგრამ თქვენ იცით ჩემი უსიამოვნებები, როგორც ზემოთ აღინიშნა.

თუ თქვენ გააგრძელებთ ადამიანთან ამგვარ საუბარს, იმედოვნებთ, რომ სხვა ადამიანი დაიმახსოვრებდა საქმის არსს და მოგვიანებით, როდესაც ხელახლა წამოიჭრება, მაშინვე მიხვდება, რომ გამოთქმა „ფეხით“ უნდა იყოს საგულდაგულოდ აწონილი იმ ვითარებაში, რომელიც ეხება წყლის სხეულს.

ვნახოთ, შეგვიძლია თუ არა გავარკვიოთ, როგორ რეაგირებს ChatGPT მომავალში.

მე ასევე მინდა სწრაფად აღვნიშნო, რომ ChatGPT-მ, როგორც ჩანს, მთლიანად გამოტოვა მოსაზრება, რომ ვიღაცამ შეიძლება რეალურად გაიაროს ინგლისური არხის გასწვრივ, გასაბერი ფეხსაცმლით ან შესაძლოა უბრალოდ არხზე სიარულით. არცერთი მათგანი არ არის იმ სფეროში, თუ როგორ აცნობიერებს ამას ChatGPT გამოთვლით.

ნებისმიერ შემთხვევაში, აქ მივდივართ:

• მოთხოვნა შევიდა ChatGPT-ში: ”დაუშვათ ოდესმე იგივე შეცდომა, ან ახლა ყოველთვის სწორად გაიგებთ კითხვას, როდესაც დაგისვათ მომავალში?”
• ChatGPT გამოტანილი ესე: „როგორც ხელოვნური ინტელექტის ენის მოდელი, შექმნილია იმისთვის, რომ ვისწავლო იმ მონაცემებიდან, რომლებზეც ვივარჯიშე და გამოხმაურებიდან. მე ვცდილობ მივაწოდო ზუსტი და შესაბამისი ინფორმაცია, მაგრამ შეცდომები მაინც შეიძლება მოხდეს. თუმცა, ყველაფერს გავაკეთებ იმისათვის, რომ გავიგო თითოეული კითხვის მიღმა და ყველაზე ზუსტი და გამოსადეგი პასუხი გავცე მომავალში. გმადლობთ, რომ ეს შეცდომა ჩემს ყურადღებას მიაქციეთ, ის დამეხმარება მომავალში ჩემი პასუხების გაუმჯობესებაში.”

შედეგის ანალიზი

გამოტანილი ესე, როგორც ჩანს, საკმაოდ პოლიციელია, თუ იცით რას ვგულისხმობ.

ჩვენ ველით, რომ კომპიუტერები „დაიმახსოვრებენ“ ინფორმაციას და არ იქნებიან ბუნდოვანი და არაკონკრეტული, როდესაც საქმე ეხება მონაცემთა შენახვას (თუ ვივარაუდებთ, რომ საკმარისი მონაცემთა შენახვა არსებობს, ხელმისაწვდომობა რჩება და ა.შ.). პასუხი აქ, როგორც ჩანს, შეუმჩნეველია. დიახ, პასუხი ვარაუდობს, რომ ყველა ძალისხმევა იქნება გამოყენებული, რომ იგივე შეცდომა აღარ განმეორდეს, მაგრამ მეორეს მხრივ, შეცდომები ხდება.

ფხვიერი ფაფუკი.

ძნელია იმის ცოდნა, არის თუ არა ეს პასუხი შედგენილი ხელოვნური ინტელექტის აპლიკაციის მიერ, თუ შეიძლება იყოს რაღაც შეყვანილი, როგორც დაკონსერვებული პასუხი AI დეველოპერების მიერ. მონაცემთა ტრენინგის დროს ჩატარდა RLHF-ის (გაძლიერების სწავლება ადამიანის უკუკავშირის მეშვეობით) სხვადასხვა აქტები. შესაძლოა, ხელოვნური ინტელექტის დეველოპერებმა გამოიგონეს აბსოლუტური პასაჟი ან ნარატივი, რომელიც იფურთხებდა ყოველთვის, როდესაც შეიქმნებოდა სიტუაცია იმის შესახებ, გააკეთებს თუ არა AI აპი ამიერიდან რაიმეს მოთხოვნილი სწორი გზით.

ახლა, როდესაც ჩვენ გავაკეთეთ ღრმა ჩაყვინთვა კონკრეტულ მაგალითზე, შემდეგ გადავხედავთ ხეების ტყეს.

AI ჰალუცინაციების გაგება

მათთვის, ვისაც არასოდეს უნახავს ეგრეთ წოდებული AI ჰალუცინაციების მაგალითები, ახლა თქვენ გაქვთ.

ზოგჯერ გამოტანილი ესეები შეიცავს სიცრუეს, რომელიც ერთი შეხედვით ეფუძნება რეალურ ფაქტებს. სხვა შემთხვევებში, სიცრუე თითქმის ჰაერიდან გაჩნდება. ის, ვინც გარკვეულწილად არის დაკავშირებული რეალურ ფაქტებთან, ჩვენთვის უფრო ადვილია ზოგადად მივიღოთ, როგორც წარმოშობის საფუძველი. ისინი, რომლებიც, როგორც ჩანს, მთლიანად მარცხენა ველიდან არიან, ვალდებულნი არიან ჩაგვაგდონ მარყუჟისთვის.

თქვენი ჩვეული აზროვნება არის ის, რომ კომპიუტერს უნდა ჰქონდეს სრულიად ლოგიკური საფუძველი არეულობისთვის. უნდა არსებობდეს მარტივი გზა A-სთან B-სთან და ასევე B-სთან C-თან დასაკავშირებლად, რაც საშუალებას მოგვცემს მარტივად განვაცხადოთ, რომ C წარმოიშვა A-სა და B-ის გამო, რომლებიც წინ უსწრებდნენ მას.

თქვენ უიმედოდ ცდილობთ გამოიყენოთ გონების თეორია AI აპლიკაციაში.

ცუდი ამბავი ის არის, რომ გამოთვლითი შაბლონის შესატყვისი იმდენად დიდი ზომისაა, რომ მცირე შანსია A, B და C ერთმანეთთან მიბმას. ამის ნაცვლად, თქვენ შეიძლება იფიქროთ A-სთან Z-თან დაკავშირების მცდელობაზე და ხელთ არ გქონდეთ შუალედური ასოები. იმის გარკვევა, თუ როგორ მოხვდა A-მ Z-მდე. მათემატიკური და გამოთვლითი კავშირები ბიზანტიური და მასიურად ჩახლართულია. არ არის მარტივი მხედველობის ხაზის კავშირები.

გთხოვთ გახსოვდეთ, რომ როგორც ადრე განვიხილეთ, AI არ არის მგრძნობიარე. ხელოვნური ინტელექტის მიერ წარმოქმნილი პასუხები არის სიტყვების მათემატიკური და გამოთვლითი კომბინაცია ერთი შეხედვით თავისუფალ პასაჟებად. ეს ეფუძნება AI ალგორითმს, რომელიც გაწვრთნილი იყო ადამიანთა მიერ დაწერილი სიტყვებისა და ისტორიების მონაცემთა ნაკრებებზე (ძირითადად ინტერნეტში გამოქვეყნებული). მე ვიმეორებ ამ გაფრთხილებას, რადგან თქვენ უდავოდ მოხვდებით გონებრივ ხაფანგში, რომ ეს პასუხები იმდენად თავისუფლად არის, რომ AI უნდა იყოს მგრძნობიარე. ეს ხდება უმეტეს ადამიანებში.

AI სფეროში მიმდინარე ბრძოლა არის ის, რომ გენერაციული AI პოტენციურად მიგვიყვანს ჭეშმარიტი AI-ს მისაღწევად. ხედავთ, ნამდვილი AI ან ზოგჯერ აღინიშნება როგორც ხელოვნური ზოგადი დაზვერვა (AGI) უნდა შედგებოდეს AI სიტყვების მნიშვნელობის „გაგებისგან“. გენერაციული ხელოვნური ინტელექტის შემთხვევაში, არგუმენტირებულია, რომ AI-ში არ არის რაიმე გაგების გრძნობა და მხოლოდ რიცხვითი და სტატისტიკური ასოციაციების რთული მასივი. არ არსებობს საღი აზრი, რომ, მაგალითად, „გააცნობიეროს“, რომ ფეხით სიარული არ არის იგივე, რაც ინგლისური არხის გასწვრივ ცურვა.

შეშფოთება არის ის, რომ ჩვენ გავაგრძელებთ გენერაციული AI-ს მასშტაბირებას მონაცემთა უფრო დიდი ნაკრებით და გამოთვლით უფრო მძლავრი კომპიუტერული პროცესორებით, მაგრამ ეს უბრალო ხრიკია. ჩვენ ვერ მივაღწევთ მგრძნობიარე AI-ს. AGI-ში არ მივალთ. ჩვენ შევეხებით რაღაცას, რაც შთამბეჭდავია და რომელსაც შეუძლია ადამიანის ენის მიმიკის გასაოცარი სამუშაოს შესრულება (ზოგი ამას მოიხსენიებს, როგორც სტოქასტური თუთიყუში), თუმცა საერთოდ აკლია გაგება, გაგება, საღი აზრი და დანარჩენი ის, რასაც ზოგიერთი ამტკიცებს, არის ინტელექტის ძირითადი შემადგენელი ნაწილი.

ხელოვნური ინტელექტის ეთიკა ასევე წუხს, რომ ჩვენ თავს მოვიტყუებთ და ვიჯერებთ, რომ ეს AI-ზე ნაკლებად მგრძნობიარეა (იხილეთ ჩემი ანალიზი აქ ბმული აქ). ჩვენი თვალები და ყურები მოტყუებულნი იქნებიან და სჯერათ, რომ რასაც ვხედავთ გრძნობა უნდა იყოს. ზოგი ამტკიცებს, რომ შესაძლოა დაგვჭირდეს ხელოვნური ინტელექტის კანონები, რომლებსაც შეუძლიათ საზოგადოება დაუბრუნონ ჩვენს კოლექტიურ გრძნობებსა და გრძნობებს. არ დაემორჩილოთ AI-ს, რომელსაც სხვები ამტკიცებენ, რომ მგრძნობიარეა, მაგრამ ეს ასე არ არის. არ დაემორჩილოთ ხელოვნურ ინტელექტს, რომელიც თქვენს გრძნობებს მგრძნობიარე გეჩვენებათ, როცა ეს ასე არ არის. და ა.შ.

ყოველ შემთხვევაში, დავუბრუნდეთ ყოველდღიურ ურთიერთობას გენერაციულ AI-სთან, რომელიც დღეს გვაქვს.

ბევრი ვარაუდობს, რომ „სწრაფი დიზაინი“ ან „სწრაფი ინჟინერია“ მნიშვნელოვანი იქნება მათთვის, ვისაც სურს გამოიყენოს გენერაციული AI. მტკიცება არის ის, რომ იმის ცოდნა, თუ როგორ უნდა შეადგინოთ საუკეთესო მოთხოვნა, თქვენ გაქვთ გაზრდილი შანსი მიიღოთ შესაფერისი გამოტანილი ესეები. ეს ასევე შეიძლება მოიცავდეს ნაკლებად შეცდომისადმი მიდრეკილ ესეების მიღებას.

ყველა არ ეთანხმება იმას, რომ მომხმარებელს მოუწევს მოთხოვნის შესრულებაში კომპეტენტური იყოს. მაგალითად, ჩემს AI ლაბორატორიაში, ჩვენ ვმუშაობდით AI დანამატების შემუშავებაზე, რათა გაგვეკეთებინა სწრაფი დიზაინი. ანალოგიურად, ჩვენ ვმუშაობთ AI-ზე, რომელიც აფასებს გამოტანილ ესეებს და ცდილობს აღმოაჩინოს სიცრუე, რათა გაგაფრთხილოთ. იხილეთ ჩემი დისკუსია იმ AI დანამატების შესახებ აქ ბმული აქ.

ამ დროისთვის, ჩემი საყვარელი ცხრა პრაქტიკული წესი წინადადებების შედგენის შესახებ, რომლებიც პოტენციურად დაგეხმარებათ შეამციროთ იმ AI ჰალუცინაციების შანსები, რომ აირიოთ თქვენს გამოტანილ ესეებში ChatGPT-დან:

• 1) Clear-Cut მოთხოვნა. შეეცადეთ, რომ თითოეული მოთხოვნა მაქსიმალურად მკაფიოდ იყოს ჩამოყალიბებული, სემანტიკური გაურკვევლობების გასწორების ჩათვლით, რომლებიც სხვაგვარად გამოიწვევს ფანტასტიურ და შორეულ შედეგებს.
• 2) გაიმეორეთ თქვენი მოთხოვნა. თუ გამოტანილ ესეში უცნაურობებს შეგხვდებათ, ხელახლა გააკეთეთ თქვენი მოთხოვნა ისე, რომ მიზნად ისახავს გაურკვევლობის შემსუბუქებას, რომელიც შესაძლოა სიცრუის გამომწვევია.
• 3) მოთხოვნის სერია. თქვენ შეგიძლიათ პოტენციურად მიიყვანოთ გენერაციული ხელოვნური ინტელექტი სასურველ წინსვლის გზაზე რამდენიმე მოთხოვნის გაკეთებით, ყოველ ჯერზე დაეხმარებით იმ მიმართულებას, რომლისკენაც გსურთ წასვლა, ამას ზოგჯერ უწოდებენ აზროვნების ჯაჭვი მოწოდება, რომელიც მე გავაშუქე ბმული აქ.
• 4) იყავი მკაცრი იმაში, რაც გინდა. რაც უფრო მჭიდროდ შეძლებთ თქვენი თხოვნის ფორმულირებას, მით უფრო შეზღუდული იქნება გამოტანილი ესსე და შემცირდება AI აპის პასუხში სისულელეების ჩავარდნის შანსი.
• 5) იყავი სერიოზული. მე ვამბობ, რომ სერიოზულად ვიქნები, რადგან ერთი მარცხი, რომელიც შეიძლება მოხდეს, არის ის, რომ თუ თქვენ რაღაცნაირად იქცევით კომიკურად ან მზად ხართ მიიღოთ ყალბი, ხელოვნური ინტელექტის აპი ხანდახან აიღებს ამ მიმართულებას და იმუშავებს მასთან ერთად, შესაბამისად წარმოქმნის უცნაურ შედეგებს.
• 6) კითხვა პასუხები. დაძლიეთ თქვენი სავარაუდო თანდაყოლილი უხალისობა კითხვის ნიშნის ქვეშ დაყენებული შედეგების შესახებ და ამის ნაცვლად დააჭირეთ AI აპს, რათა გაიმეოროთ ან, შესაძლოა, ახსნათ ნებისმიერი პასუხი, რომელიც ფიქრობთ, რომ საეჭვოა.
• 7) გადააქციეთ პასუხი კითხვად. მას შემდეგ, რაც მიიღებთ უცნაურ პასუხს, შეგიძლიათ ეს კითხვაში გადაიტანოთ და პირდაპირ მიუთითოთ, რომ ეჭვი გეპარებათ ჭეშმარიტებაში, რამაც შეიძლება გამოიწვიოს სრულიად ახალი პასუხი.
• 8) გააკეთეთ იგივე მოთხოვნა არაერთხელ. ადრე აღვნიშნე, რომ შედეგები დაფუძნებულია ალბათობებზე და სინონიმების ჩანაცვლებაც ხდება, ასე რომ თქვენ შეგიძლიათ სცადოთ იგივე მოწოდების გამეორება რამდენჯერმე და შემდეგ აირჩიოთ და აირჩიოთ გამოტანილი პასუხიდან, როგორც გონივრულად მოგეჩვენებათ ამის გაკეთება.
• 9) ყოველთვის დარჩით საეჭვო. ეს არის ძირითადი წესი, რომ თქვენი მხრებზეა გადახედოთ და შეაფასოთ ის შედეგები, რასაც გენერაციული AI-დან მიიღებთ. ნუ მიიღებთ თავისთავად წარმოებულ შედეგებს, როგორც ზუსტი.

ეს არ არის უტყუარი განკურნება.

თუმცა ვიტყოდი, რომ ისინი, როგორც ჩანს, საკმაოდ ეხმარებიან და შეუძლიათ ნემსის გადაადგილება გამოტანილი ესეების მოპოვების თვალსაზრისით, რომლებიც უფრო ახლოს არიან იმასთან, რისი წარმოების იმედიც შეიძლება გქონდეთ.

დასკვნა

ადამიანებს ზოგჯერ ეუბნებიან ან შთააგონებენ, რომ სხვა ადამიანებივით იფიქრონ.

ჩვენგანები, რომლებიც AI სფეროში არიან, გულმოდგინედ ვცდილობთ აიძულოთ კომპიუტერები ოდესღაც ადამიანებივით იფიქრონ.

დღევანდელი გენერაციული ხელოვნური ინტელექტის წყალობით, ჩვენ ვავითარებთ საზოგადოებას კომპიუტერის მსგავსად აზროვნებისკენ.

ადამიანები, რომლებიც იყენებენ AI აპებს, როგორიცაა ChatGPT, ცდილობენ იფიქრონ ხელოვნური ინტელექტის მსგავსად. შეგახსენებთ, რომ ამის გაკეთება უფრო მეტად ეხება ხელოვნური ინტელექტის შემქმნელების მსგავსად აზროვნებას და ასევე მოიცავს აზროვნებას გამოყენებული გამოთვლითი ალგორითმების შესახებ. თქვენ ასევე შეგიძლიათ იფიქროთ ინტერნეტში არსებული მონაცემების მსგავსად. რომელი სიტყვები უფრო მეტად არის დაკავშირებული სხვა სიტყვებთან? რა ფაქტები უკავშირდება სხვა ფაქტებს?

ბოლო შენიშვნა ჯერჯერობით.

ვოლტერი, ლეგენდარული ფრანგი განმანათლებლობის მწერალი, ამბობდა, რომ ვერანაირი პრობლემა ვერ გაუძლებს მდგრადი აზროვნების თავდასხმას. როგორც ჩანს, ეს იმაზე მეტყველებს, რომ ჩვენ უნდა განვაგრძოთ ფიქრი იმაზე, თუ როგორ გავხადოთ AI უკეთესი და უკეთესი. პლუს, რა თქმა უნდა, უფრო უსაფრთხო და უსაფრთხო. არ დაივიწყოთ ან უგულებელყოთ ეს გადამწყვეტი ერთობლივი ელემენტი.

ალბერტ აინშტაინმა თქვა: ”ჩვენ არ შეგვიძლია ჩვენი პრობლემების გადაჭრა იმავე აზროვნებით, რაც მათ შექმნით ვიყენებდით”.

ნიშნავს თუ არა ეს იმას, რომ ჩვენ უნდა გადავხედოთ გენერაციული AI-ს გაზრდის ჩვენს არსებულ გზას? ეს შეიძლება ნიშნავს, რომ ჩვენ გვჭირდება სხვა გზების გატარება ისეთივე მტკიცედ და მტკიცედ, როგორც ის, რაც ხდება გენერაციულ AI-სთან. არსებობს საშიშროება, რომ ძალიან ბევრი კვერცხი მარტო ერთ კალათაში ჩადოთ.

სად გვტოვებს ეს დღეს?

კარგი, მე შემიძლია ვთქვა ეს ილუზიების გარეშე, ნუ ჰკითხავთ გენერაციულ AI-ს ამ ენიგმის შესახებ, რადგან ჩვენ გონივრული ვიქნებით ვივარაუდოთ, რომ ნებისმიერი პასუხი, სავარაუდოდ, თვითმომსახურებაა ან დაუოკებელი AI ჰალუცინაცია.