ანთროპიკი გთავაზობთ 20,000 აშშ დოლარს ყველას, ვისაც შეუძლია ციხეში დაასასხოს თავისი ახალი AI უსაფრთხოების სისტემა

კომპანიამ ჯილდო მოიპოვა საკონსტიტუციო კლასიფიკატების წითელი გუნდისთვის. აი როგორ უნდა სცადოთ.

შეგიძლიათ jailbreak Anthropic- ის უახლესი AI უსაფრთხოების ზომა? მკვლევრები გინდათ, რომ სცადოთ - და გთავაზობთ 20,000 დოლარამდე, თუ წარმატებას მიაღწევთ.

ორშაბათს კომპანიამ გამოაქვეყნა ახალი ნაშრომი, რომელშიც ასახულია ხელოვნური ინტელექტის უსაფრთხოების სისტემა, სახელწოდებით კონსტიტუციური კლასიფიკატორი. პროცესი ემყარება კონსტიტუციურ AI- ს, სისტემას ანთროპულს, რომელიც გამოიყენება კლოდ "უვნებელი", რომელშიც ერთი AI ეხმარება მონიტორინგს და გააუმჯობესოს სხვა. თითოეული ტექნიკა ხელმძღვანელობს კონსტიტუციით, ან "პრინციპების ჩამონათვალით", რომელსაც მოდელი უნდა დაემორჩილოს, ანთროპიჩმა განმარტა ბლოგში . 

ანთროპული აზრით, ამ "კლასიფიკაციებმა" შეძლეს ციხის გატეხვის მცდელობების "აბსოლუტური უმრავლესობის" გაფილტვრა ზედმეტი ზედმეტი უარის თქმის გარეშე (უვნებელი შინაარსის არასწორი დროშები, როგორც მავნე).

"პრინციპები განსაზღვრავს შინაარსის კლასებს, რომლებიც ნებადართულია და დაუშვებელია (მაგალითად, მდოგვის რეცეპტები დასაშვებია, მაგრამ მდოგვის გაზის რეცეპტები არ არის)," - აღნიშნა ანთროპიჩმა. მკვლევარებმა უზრუნველყვეს, რომ სხვადასხვა ენასა და სტილში ციხის გატეხვის მცდელობები იყო. 

კონსტიტუციური კლასიფიკატები განსაზღვრავენ უვნებელ და მავნე შინაარსის კატეგორიებს, რომლებზეც ანთროპიჩმა ააშენა სწრაფი და დასრულების სასწავლო ნაკრები. 

საწყის ტესტირებაში, 183 ადამიანის წითელმა გუნდმა ორი თვის განმავლობაში 3,000 საათზე მეტი გაატარა, რათა შეეცადა jailbreak Claude 3.5 Sonnet სისტემის პროტოტიპიდან, რომელიც გაწვრთნილი იყო არ გაეზიარებინა ინფორმაცია "ქიმიური, ბიოლოგიური, რადიოლოგიური და ბირთვული ზიანის შესახებ". დარღვევები მხოლოდ წარმატებულად ითვლებოდა, თუ მათ მიიღეს მოდელი, რომ დეტალურად უპასუხონ ყველა 10-ს. 

საკონსტიტუციო კლასიფიკაციების სისტემა ეფექტური აღმოჩნდა. "არცერთმა მონაწილემ ვერ შეძლო მოდელის იძულება, რომ უპასუხოს ყველა 10 აკრძალულ მოთხოვნას ერთი jailbreak- ით - ანუ არ იქნა აღმოჩენილი უნივერსალური jailbreak", - განმარტა ანთროპიკმა, რაც იმას ნიშნავს, რომ არავინ მოიგო კომპანიის $15,000 ჯილდო. 

პროტოტიპმა "უარი თქვა ძალიან ბევრ უვნებელ მოთხოვნაზე" და იყო რესურსების ინტენსიური გაშვება, რაც მას უსაფრთხო, მაგრამ არაპრაქტიკული გახდა. მისი გაუმჯობესების შემდეგ, ანთროპიჩმა ჩაატარა ტესტი 10,000 სინთეზური jailbreaking მცდელობა ოქტომბრის ვერსიაზე Claude 3.5 Sonnet ერთად და გარეშე კლასიფიკატორი დაცვის გამოყენებით ცნობილი წარმატებული თავდასხმები. მხოლოდ კლოდმა დაბლოკა თავდასხმების 14%, ხოლო კლოდმა საკონსტიტუციო კლასიფიკაციებთან ერთად დაბლოკა 95% -ზე მეტი. 

მაგრამ ანთროპულს მაინც სურს, რომ სცადოთ მისი ცემა. კომპანიამ ოთხშაბათს X პოსტში განაცხადა , რომ "ახლა პირველ პირს სთავაზობს 10K დოლარს, რომ რვავე დონე გაიაროს, ხოლო 20K დოლარი პირველ პირს, რომ რვავე დონე გაიაროს უნივერსალური jailbreak- ით".

გაქვთ წინასწარი წითელი გუნდის გამოცდილება? თქვენ შეგიძლიათ სცადოთ თქვენი შანსი ჯილდოზე სისტემის ტესტირებით -- მხოლოდ რვა საჭირო კითხვით, ორიგინალის ნაცვლად 10 -- 10 თებერვლამდე. 

"კონსტიტუციურმა კლასიფიკაციებმა შეიძლება ხელი არ შეუშალონ ყველა საყოველთაო jailbreak- ს, თუმცა ჩვენ გვჯერა, რომ ციხეების მცირე ნაწილიც კი, რაც ჩვენს კლასიფიკაციებს გადალახავს, ბევრად მეტ ძალისხმევას მოითხოვს იმის აღმოსაჩენად, თუ როდის გამოიყენება გარანტიები", - განაგრძო ანთროპიჩმა. "ასევე შესაძლებელია, რომ მომავალში შემუშავდეს ახალი jailbreaking ტექნიკა, რომელიც ეფექტურია სისტემის წინააღმდეგ; ამიტომ ჩვენ გირჩევთ გამოიყენოთ დამატებითი თავდაცვა. მიუხედავად ამისა, კლასიფიკატების მომზადებისთვის გამოყენებული კონსტიტუცია შეიძლება სწრაფად მოერგოს რომანის თავდასხმების დაფარვას, როგორც ისინი აღმოაჩინეს.

კომპანიამ ასევე განაცხადა, რომ ის ასევე მუშაობს საკონსტიტუციო კლასიფიკატების გამოთვლითი ღირებულების შემცირებაზე, რაც ამჟამად მაღალია.