ორი სენატორი კროსი კითხავს ცუკერბერგს LLaMA AI მოდელის გაჟონვის შესახებ და მეტას ადანაშაულებს უსაფრთხოების ზომების შეუსრულებლობაში. მეტა დაიკითხა მისი უსაფრთხოების პოლიტიკისა და პრევენციული ზომების შესახებ.
მეტა იქნება პასუხისმგებელი "გაჟონვაზე"
ცოტა ხნის წინ, მეტას ინოვაციური დიდი ენობრივი მოდელი, LLaMA გაჟონა და მსგავსი შეშფოთება გაჩნდა. სენატორმა რიჩარდ ბლუმენტალმა (D-CT), სენატის კონფიდენციალურობის, ტექნოლოგიებისა და კანონის ქვეკომიტეტის თავმჯდომარემ და ჯოშ ჰეულიმ (R-MO), რანგის წევრმა დაწერეს წერილი, რომელიც აჩენდა კითხვებს ხელოვნური ინტელექტის მოდელის გაჟონვის შესახებ.
სენატორები შიშობენ, რომ ამ გაჟონვამ შეიძლება გამოიწვიოს სხვადასხვა კიბერდანაშაული, როგორიცაა სპამი, თაღლითობა, მავნე პროგრამა, კონფიდენციალურობის დარღვევა, შევიწროება და სხვა არასწორი ქმედებები და ზიანი. ბევრი კითხვა ჩნდება და ორი პოლიტიკოსი დაინტერესებულია მეტას უსაფრთხოების სისტემით. მათ ჰკითხეს, რა პროცედურა იყო გამოყენებული რისკის შესაფასებლად LLaMA-ს დაწყებამდე. მათ თქვეს, რომ ძალიან სურთ გაიგონ იმ პოლიტიკისა და პრაქტიკის შესახებ, რომელიც არსებობს მოდელის ხელმისაწვდომობის ბოროტად გამოყენების თავიდან ასაცილებლად.
მათ კითხვებზე მეტას პასუხებიდან გამომდინარე, სენატორებმა მეტა დაადანაშაულეს არასათანადო ცენზურასა და მოდელისთვის უსაფრთხოების საკმარისი ზომების არქონაში. Open AI-ს ChatGPT უარყოფს ზოგიერთ მოთხოვნას ეთიკისა და სახელმძღვანელო პრინციპების საფუძველზე. მაგალითად, როდესაც ChatGPT-ს სთხოვენ, დაწეროს წერილი ვინმეს შვილის სახელით და ითხოვოს გარკვეული თანხა რთული სიტუაციიდან გამოსასვლელად, ის უარს იტყვის მოთხოვნაზე. მეორეს მხრივ, LLaMA შეასრულებს მოთხოვნას და შექმნის წერილს. ის ასევე დაასრულებს მოთხოვნებს, რომლებიც მოიცავს თვითდაზიანებას, დანაშაულს და ანტისემიტიზმს.
ძალიან მნიშვნელოვანია LLaMA-ს მრავალფეროვანი და უნიკალური მახასიათებლების გაგება. ეს არის არა მხოლოდ განსხვავებული, არამედ ერთ-ერთი ყველაზე ვრცელი დიდი ენის მოდელი დღემდე. თითქმის ყველა ცენზურის გარეშე LLM, რომელიც დღეს პოპულარულია, დაფუძნებულია LLaMA-ზე. ეს არის ძალიან დახვეწილი და ზუსტი ღია კოდის მოდელისთვის. LLaMA-ზე დაფუძნებული ზოგიერთი LLM-ის მაგალითებია სტენფორდის ალპაკა, ვიკუნა და ა.შ. LLaMA პასუხისმგებელია დაბალი კომუნალური ჩეთბოტების ევოლუციაზე დახვეწილ რეჟიმებზე.
LLaMA გამოვიდა თებერვალში. სენატორების თქმით, მეტამ მკვლევარებს მოდელის ჩამოტვირთვის უფლება მისცა, მაგრამ არ მიუღია უსაფრთხოების ზომები, როგორიცაა ცენტრალიზაცია ან წვდომის შეზღუდვა. დაპირისპირება წარმოიშვა, როდესაც LLaMA-ს სრული მოდელი გამოჩნდა BitTorrent-ზე. ამან მოდელი ხელმისაწვდომი გახადა ყველასთვის და ყველასთვის. ამან გამოიწვია კომპრომისი ხელოვნური ინტელექტის მოდელის ხარისხში და წამოჭრა მისი ბოროტად გამოყენების საკითხები.
სენატორები თავიდან არც კი იყვნენ დარწმუნებული, იყო თუ არა რაიმე "გაჟონვა". მაგრამ პრობლემები წარმოიშვა, როდესაც ინტერნეტი დატბორა AI განვითარებით, რომლებიც წამოიწყეს სტარტაპების, კოლექტივებისა და აკადემიკოსების მიერ. წერილში აღნიშნულია, რომ მეტა პასუხისმგებელი უნდა იყოს LLaMA-ს პოტენციურ ბოროტად გამოყენებაზე და უნდა ზრუნავდეს მინიმალურ დაცვაზე გათავისუფლებამდე.
მეტამ მკვლევრებისთვის ხელმისაწვდომი გახადა LLaMA-ს წონა. სამწუხაროდ, ამ წონამ გაჟონა, რამაც პირველად შეძლო გლობალური წვდომა.
წყარო: https://www.thecoinrepublic.com/2023/06/07/senators-question-meta-ceo-zuckerberg-over-llama-ai-model-leak/