ტექნიკური

OpenAI-ის აღმასრულებელი დირექტორი სემ ალტმანი მოწმობს სენატის "ისტორიულ" მოსმენაზე ხელოვნური ინტელექტის უსაფრთხოების შესახებ

12 თვის წინ
Bitcoin Ethereum News

სემ ალტმანმა, OpenAI-ის აღმასრულებელმა დირექტორმა და Worldcoin-ის თანადამფუძნებელმა, ცოტა ხნის წინ ჩვენება მისცა კონგრესს IBM-ის ნდობის ხელმძღვანელთან, კრისტინა მონტგომერთან და NYU პროფესორ გარი მარკუსთან ერთად. 

სენატის სასამართლო სისტემის კონფიდენციალურობის, ტექნოლოგიებისა და სამართლის ქვეკომიტეტის სხდომა წარმოადგენდა ალტმანის პირველ ოფიციალურ გამოჩენას კონგრესის წინაშე, რაც სენატორებს მისცა შესაძლებლობა დაეკითხათ OpenAI აღმასრულებელი დირექტორი მისი კომპანიის შეხედულებებთან დაკავშირებით რეგულირების შესახებ.

ილინოისის სენატორის დიკ დურბინის მიერ „ისტორიულ“ სესიას უწოდა, პროცესი ფოკუსირებული იყო გენერაციული ხელოვნური ინტელექტის (AI) მოდელებისგან მომდინარე პოტენციური საფრთხეების გაგებაზე, როგორიცაა ChatGPT და როგორ უნდა მიუახლოვდნენ კანონმდებლები რეგულაციას.

ალტმანის კომენტარებმა - რომლებიც კონგრესის წევრებმა და კოლეგა სპიკერმა მარკუსმა აღწერეს, როგორც გულწრფელ და ნამდვილს - როგორც ჩანს, გაკვირვება გამოიწვია სენატის რამდენიმე წევრმა.

ის მხარს უჭერდა ფედერალური ზედამხედველობის სააგენტოს შექმნას, რომელსაც უფლება ექნება გასცეს და გააუქმოს განვითარების ლიცენზიები, თქვა, რომ მისი აზრით, შემქმნელებს უნდა მიეღოთ კომპენსაცია, როდესაც მათი ნამუშევარი გამოიყენება ხელოვნური ინტელექტის სისტემის მომზადებისთვის და დათანხმდა, რომ მომხმარებლები, რომლებიც ზიანს აყენებენ AI პროდუქტების გამოყენებით, უნდა იყვნენ უფლება აქვს უჩივლოს დეველოპერს.

ალტმანმა გვერდი აუარა ბოლოდროინდელ წერილს "AI პაუზის" შესახებ კითხვებს, რომელიც მოითხოვდა ექვსთვიანი მორატორიუმის განლაგებას GPT-4-ზე უფრო მძლავრი სისტემების განთავსებაზე, AI სისტემაზე, რომელიც ეფუძნება ChatGPT-ს, და განაცხადა, რომ OpenAI-მ ექვს თვეზე მეტი დახარჯა GPT-ის შეფასებაზე. -4 განლაგებამდე. მისი თქმით, კომპანიას არ გეგმავს სხვა მოდელის განთავსებას მომდევნო ექვსი თვის განმავლობაში.

მარკუსმა, პაუზის წერილის ხელმომწერმა, აღიარა, რომ იგი უფრო მეტად ეთანხმება წერილის სულს, ვიდრე მის შინაარსს, მაგრამ NYU პროფესორმა მოუწოდა კონგრესს განეხილა გლობალური ზედამხედველობა, ისევე როგორც ფედერალური რეგულაცია - განწყობილებას ალტმანიც ეთანხმებოდა.

მოსმენის განმავლობაში სამი მოწვეული მომხსენებელი ერთმანეთს უერთდებოდა უმეტეს თემებზე. ეს მოიცავდა კონფიდენციალურობის დაცვის მხარდაჭერას, მთავრობის უფრო მეტ ზედამხედველობას, მესამე მხარის აუდიტს და რამდენად მალე უნდა შეეცადოს შეერთებული შტატების მთავრობამ ინდუსტრიის რეგულირება (დაუყოვნებლივ).

თუმცა, უთანხმოების ერთ-ერთი ერთადერთი წყარო მოვიდა IBM-ის მონტგომერისგან, რომელიც არ ეთანხმებოდა მოსაზრებას, რომ ახალი ფედერალური სააგენტო საჭირო იქნებოდა ხელოვნური ინტელექტის ინდუსტრიაში რეგულაციების აღსასრულებლად.

მისმა განცხადებებმა მიუთითა, რომ IBM მომხრეა რეგულირების ქირურგიული მიდგომის გამოყენებით არსებული მარეგულირებელი ორგანოების გამოყენებით, რათა ფოკუსირება მოახდინონ აღსრულებაზე კონკრეტულ გამოყენების შემთხვევებზე.

მიუხედავად იმისა, რომ სამივე მომხსენებელი შეთანხმდა, რომ ხელოვნური ინტელექტი შეიძლება იყოს საზიანო და მოითხოვდა უსაფრთხოების ინტერვენციებს, მარკუსმა ნათლად თქვა, რომ მას სჯერა, რომ ამჟამად არავის ესმის ან არ შეუძლია წინასწარ განსაზღვროს, რამდენად საზიანო შეიძლება იყოს ან გახდება AI პროდუქტები. ის მხარს უჭერდა ფრთხილ მიდგომას, რომელიც მოიცავს უფრო მეტ გამჭვირვალობას.

გამომსვლელები ასევე დაეთანხმნენ კონგრესის წევრებს, რომ აშშ-ს სჭირდებოდა კონფიდენციალურობის ეროვნული კანონი ევროპის მსგავსი. თუმცა, ალტმანი არ ეთანხმება მოსაზრებას, რომ მომხმარებლებს უნდა შეეძლოთ უარი თქვან თავიანთი საჯაროდ ხელმისაწვდომი ვებ მონაცემების სასწავლო მონაცემთა ნაკრებებში ჩართვაზე.

ალტმანი ასევე არ აპირებს ჩანაწერს იმის მტკიცებას, რომ OpenAI ეწინააღმდეგებოდა თავისი GPT პროდუქტების რეკლამაზე დაფუძნებული ვერსიის შეთავაზებას. აღმასრულებელმა დირექტორმა უბრალოდ განაცხადა, რომ ის „არ იტყოდა არასდროს“.

ეს, მიუხედავად იმისა, რომ ადრე სხდომაზე თქვა, რომ OpenAI-ის პროდუქტები იცავდა მომხმარებელთა კონფიდენციალურობის სტანდარტებს, რადგან კომპანიამ არ შექმნა მომხმარებლის პროფილები მორგებული რეკლამებისთვის.

ნიუ ჯერსის სენატორმა კორი ბუკერმა, როგორც სტენფორდის კურსდამთავრებული და დეცენტრალიზებული საფინანსო და Web3 კომპანიებთან მომუშავე დეპუტატი, თავისი გამოცდილება მოიხსენია, ცენტრალიზაციის უფრო დიდი კონფიდენციალურობის საკითხი. მან ჰკითხა, რა შედეგები მოჰყვება ინდუსტრიას ცენტრალიზაციასა და მონოპოლიზაციას, კითხვას მარკუსმა უპასუხა სერიოზული გაფრთხილებით, რომ ქვეყანა შეიძლება რისკის ქვეშ დადგეს საზოგადოების აღქმაზე კონტროლის მინიჭებაზე მცირე რაოდენობის აქტორებისთვის - წამყვანი ხელოვნური ინტელექტის მქონე კომპანიებისთვის, რომლებსაც აქვთ საკმარისი ფული. კონკურენციას გაუწიოს Microsoft-ს, Google-სა და Amazon-ს.

ალტმანმა, რომლის Worldcoin პროექტი აერთიანებს დეცენტრალიზებულ კრიპტოვალუტის აქტივს Ethereum blockchain-ზე პირადობის ავთენტიფიკაციასთან ერთად ირისის სკანირების ტექნოლოგიით, განმარტა, რომ OpenAI-მ მხოლოდ პლატფორმა უზრუნველყო და რომ OpenAI-ს პროდუქტების დემოკრატიზაცია მოხდა მაშინ, როდესაც დეველოპერებმა, კომპანიებმა და საბოლოო მომხმარებლებმა ადაპტირდნენ GPT API-სთვის. "ფანტასტიკური" გამოყენება.

ამავე თემაზე: OpenAI-ის აღმასრულებელი დირექტორი "მოწინავე მოლაპარაკებებში" 100 მილიონი დოლარის ღირებულების Worldcoin დაფინანსებისთვის: ანგარიში