IBM წარმოგიდგენთ ღია კოდის ბიბლიოთეკას AI სისტემების დასაცავად

IBM-ის ახალი AI ინსტრუმენტთა ყუთი უზრუნველყოფს AI-ს მოწინააღმდეგე თავდასხმებისგან

IBM- მა გამოუშვა ღია კოდის პროგრამული ბიბლიოთეკა, რომელიც მიზნად ისახავდა დეველოპერებსა და მკვლევარებს AI სისტემების დაცვაში, მათ შორის Deep Neural Networks (DNNs) მოწინააღმდეგე შეტევებისგან. DNN არის რთული მანქანური სწავლების მოდელები, რომლებსაც გარკვეული მსგავსება აქვს ადამიანის ტვინში ურთიერთდაკავშირებულ ნეირონებთან.

"Adversarial Robustness Toolbox" არის პლატფორმა-აგნოსტიკური ხელოვნური ინტელექტის (AI) ხელსაწყოების ყუთი, რომელიც შექმნილია IBM-ის მიერ, რომელშიც წარმოდგენილია თავდასხმები, თავდაცვა და საორიენტაციო ნიშნები AI სისტემების დასაცავად.

მიმდინარე AI მეთოდები, როგორიცაა სურათებში ობიექტების ამოცნობა, ვიდეოების ანოტაცია, სიტყვის ტექსტად გადაქცევა ან სხვადასხვა ენას შორის თარგმნა, ემყარება DNN- ებს. IBM- ის თანახმად, მიუხედავად იმისა, რომ DN- ები, როგორც წესი, ძალიან ზუსტია, ისინი დაუცველები არიან მოწინააღმდეგე შეტევების მიმართ და შეიძლება გამოყენებულ იქნას შედეგების არასწორად გასაიდუმლოების ან არასწორად პროგნოზირებისთვის, რამაც შეიძლება ისარგებლოს თავდამსხმელისთვის.

"მოწინააღმდეგე შეტევები რეალურ საფრთხეს უქმნის ხელოვნური ინტელექტის სისტემების განთავსებას უსაფრთხოების კრიტიკულ პროგრამებში. AI სისტემების აღრევის მიზნით შეიქმნა სურათების, ვიდეოს, მეტყველების და სხვა მონაცემების პრაქტიკულად დაუდგენელი ცვლილებები. ასეთი ცვლილებების შემუშავება შესაძლებელია მაშინაც კი, თუ თავდამსხმელს არ აქვს ზუსტი ცოდნა DNN- ის არქიტექტურის ან მის პარამეტრებზე წვდომის შესახებ. კიდევ უფრო შემაშფოთებელი, მოწინააღმდეგე შეტევები შეიძლება დაიწყოს ფიზიკურ სამყაროში: ციფრული გამოსახულების პიქსელების მანიპულირების ნაცვლად, მოწინააღმდეგეებს შეეძლოთ თავი აარიდონ სახის ამოცნობის სისტემებს სპეციალურად შექმნილი სათვალეების ტარებით, ან დაამარცხონ ვიზუალური ამოცნობის სისტემები ავტონომიურ მანქანებში საგზაო ნიშნების დაჭიმვით ", - წერს IBM ბლოგის პოსტში.

მკვლევარების აზრით, პროგრამების გარეთ ამ მოწინააღმდეგე შეტევებმა შეიძლება გავლენა მოახდინოს ფიზიკურ სამყაროზე სახის ამოცნობის სისტემების თავიდან აცილებისა და ვიზუალური ამოცნობის სისტემების დამარცხებით, როგორიცაა ავტონომიური მანქანები. IBM- ის პითონზე დაფუძნებული Adversarial Robustness Toolbox მიზნად ისახავს AI სისტემების დაცვას ამ ტიპის საფრთხეებისგან, რამაც შეიძლება სერიოზული პრობლემა შეუქმნას უსაფრთხოების კრიტიკულ პროგრამებს.

"Adversarial Robustness Toolbox შექმნილია მკვლევარებისა და დეველოპერების მხარდასაჭერად ახალი თავდაცვის ტექნიკის შექმნაში, ასევე რეალურ სამყაროში AI სისტემების პრაქტიკული თავდაცვის დანერგვაში. მკვლევარებს შეუძლიათ გამოიყენონ Adversarial Robustness Toolbox, რათა დაასახელონ ახალი თავდაცვა უახლესი ხელოვნების წინააღმდეგ. მკვლევარები წერენ, რომ ეს არის ერთ - ერთი მიზეზი, რომელიც მხარს უჭერს თავდაცვის ყოვლისმომცველი სისტემების შემადგენლობას ცალკეული მეთოდების გამოყენებით, როგორც სამშენებლო ბლოკები ..

"Adversarial Robustness Toolbox- ით, მრავალი შეტევა შეიძლება დაიწყოს AI სისტემის წინააღმდეგ, ხოლო უსაფრთხოების გუნდებს შეუძლიათ შეარჩიონ ყველაზე ეფექტური თავდაცვა, როგორც სამშენებლო ბლოკები მაქსიმალური სიმტკიცისთვის. სისტემის დაცვის თითოეული შემოთავაზებული ცვლილებით, ART უზრუნველყოფს ეფექტურობის გაზრდის ან შემცირების ნიშნულებს ", - განმარტა დოქტორმა სრიდჰარ მუპიდმა, IBM Fellow, VP და CTO IBM Security.

ამ კვირაში IBM-მა ასევე გამოაცხადა AI და ML ორკესტრაციის შესაძლებლობების დანერგვა ინციდენტებზე რეაგირებისა და საფრთხეების მართვის პროდუქტებზე.