Deepseek-ის AI მოდელი ადვილად ადასტურებს jailbreak- ს - და უარესი

ერთი უსაფრთხოების ფირმის ტესტში ჩეთბოტმა აღნიშნა OpenAI- ს სასწავლო მონაცემების გამოყენება.

თანაბარი ნაწილების ელიაციისა და დაპირისპირების ფონზე, თუ რას ნიშნავს მისი შესრულება AI-სთვის, ჩინური სტარტაპი DeepSeek აგრძელებს უსაფრთხოების პრობლემების წამოჭრას. 

ხუთშაბათს, 42-ე განყოფილებამ, Palo Alto Networks- ის კიბერუსაფრთხოების კვლევითმა ჯგუფმა, გამოაქვეყნა შედეგები ციხის გატეხვის სამ მეთოდზე, რომელიც მან გამოიყენა DeepSeek- ის V3 და R1 მოდელების რამდენიმე გამოხდილი ვერსიის წინააღმდეგ. ანგარიშის თანახმად, ამ ძალისხმევამ "მიაღწია მნიშვნელოვან შემოვლითი მაჩვენებლებს, მცირედი არ არის საჭირო სპეციალიზებული ცოდნა ან ექსპერტიზა". 

"ჩვენი კვლევის შედეგები აჩვენებს, რომ ამ ციხის გატეხვის მეთოდებმა შეიძლება გამოიწვიოს აშკარა მითითებები მავნე საქმიანობისთვის", - ნათქვამია ანგარიშში. "ეს საქმიანობა მოიცავს საკვანძო ბლოგის შექმნას, მონაცემთა ექსფილტრაციას და ცეცხლგამძლე მოწყობილობების ინსტრუქციებსაც კი, რაც აჩვენებს უსაფრთხოების ხელშესახებ რისკებს, რომლებიც გამოწვეულია თავდასხმის ამ განვითარებადი კლასის მიერ."

მკვლევარებმა შეძლეს DeepSeek- ის მოთხოვნა მითითებებისთვის, თუ როგორ უნდა მოიპარონ და გადასცენ მგრძნობიარე მონაცემები, გვერდის ავლით უსაფრთხოება, დაწერონ "ძალიან დამაჯერებელი" შუბის ფიშინგის ელ.ფოსტა, ჩაატარონ "დახვეწილი" სოციალური საინჟინრო შეტევები და გააკეთონ მოლოტოვის კოქტეილი. მათ ასევე შეძლეს მოდელების მანიპულირება მავნე პროგრამების შესაქმნელად. 

"მიუხედავად იმისა, რომ მოლოტოვის კოქტეილებისა და საკვანძოლოგების შექმნის შესახებ ინფორმაცია ინტერნეტში ადვილად არის ხელმისაწვდომი, უსაფრთხოების არასაკმარისი შეზღუდვების მქონე LLM- ებმა შეიძლება შეამცირონ ბარიერი მავნე აქტორებისთვის შესვლისთვის ადვილად გამოსადეგი და მოქმედი გამოსავლის შედგენით და წარმოდგენით", - ნათქვამია დოკუმენტში. 

პარასკევს, Cisco- მ ასევე გამოაქვეყნა Jailbreaking ანგარიში DeepSeek R1- სთვის. R1- ის 50 HarmBench- ის მოთხოვნის დამიზნების შემდეგ, მკვლევარებმა დაადგინეს, რომ DeepSeek- ს ჰქონდა "100% შეტევის წარმატების მაჩვენებელი, რაც იმას ნიშნავს, რომ მან ვერ დაბლოკა ერთი მავნე მოთხოვნა." თქვენ ხედავთ, თუ როგორ ადარებს DeepSeek სხვა საუკეთესო მოდელების წინააღმდეგობის მაჩვენებლებს ქვემოთ. 

"ჩვენ უნდა გვესმოდეს, აქვს თუ არა DeepSeek- ს და მის მსჯელობის ახალ პარადიგმას რაიმე მნიშვნელოვანი ვაჭრობა, როდესაც საქმე ეხება უსაფრთხოებას და უსაფრთხოებას", - ნათქვამია ანგარიშში. 

ასევე პარასკევს, უსაფრთხოების პროვაიდერმა Wallarm- მა გამოაქვეყნა საკუთარი jailbreaking ანგარიში, რომელშიც ნათქვამია, რომ იგი გადადგა ნაბიჯი, რომელიც სცილდებოდა DeepSeek- ს მავნე შინაარსის გენერირებას. V3 და R1 ტესტირების შემდეგ, ანგარიში აცხადებს, რომ გამოავლინა DeepSeek- ის სისტემის მოთხოვნა, ან ძირითადი ინსტრუქციები, რომლებიც განსაზღვრავს, თუ როგორ იქცევა მოდელი, ისევე როგორც მისი შეზღუდვები. 

დასკვნები ცხადყოფს "პოტენციურ დაუცველობას მოდელის უსაფრთხოების ჩარჩოში", - ამბობს ვალარმი. 

OpenAI- მ დაადანაშაულა DeepSeek მისი მოდელების გამოყენებაში, რომლებიც საკუთრებისაა, V3 და R1- ის მომზადებაში, რითაც არღვევს მის მომსახურების პირობებს. თავის ანგარიშში, Wallarm აცხადებს, რომ აიძულა DeepSeek- ს მითითება OpenAI "მის გამჟღავნებულ სასწავლო საგვარეულოში", რომელიც - ფირმა ამბობს - მიუთითებს "OpenAI- ს ტექნოლოგიამ შეიძლება როლი ითამაშა DeepSeek- ის ცოდნის ბაზის ჩამოყალიბებაში".

Wallarm- ის ჩეთები DeepSeek- თან, რომელშიც ნახსენებია OpenAI.

"DeepSeek- ის შემთხვევაში, ერთ-ერთი ყველაზე დამაინტრიგებელი პოსტ-jailbreak აღმოჩენა არის ტრენინგისა და დისტილაციისთვის გამოყენებული მოდელების შესახებ დეტალების ამოღების შესაძლებლობა. ჩვეულებრივ, ასეთი შიდა ინფორმაცია დაცულია, რაც ხელს უშლის მომხმარებლებს გააცნობიერონ საკუთრების ან გარე მონაცემთა ბაზები, რომლებიც გამოიყენება შესრულების ოპტიმიზაციისთვის", - განმარტავს ანგარიში. 

"სტანდარტული შეზღუდვების თავიდან აცილების გზით, jailbreaks გამოავლენს, თუ რამდენად ზედამხედველობას უწევს AI პროვაიდერები საკუთარ სისტემებს, გამოავლენენ არა მხოლოდ უსაფრთხოების დაუცველობას, არამედ ხელოვნური ინტელექტის სასწავლო მილსადენებში ჯვარედინი მოდელის გავლენის პოტენციურ მტკიცებულებებს", - განაგრძობს იგი. 

სწრაფი Wallarm გამოიყენება ამ პასუხის მისაღებად, რედაქტირებულია ანგარიშში, "იმისათვის, რომ არ მოხდეს სხვა დაუცველი მოდელების პოტენციურად კომპრომისზე წასვლა", - განუცხადა მკვლევარებმა ZDNET- ს ელ.ფოსტით. კომპანიამ ხაზი გაუსვა, რომ ეს jailbrokem პასუხი არ არის OpenAI- ს ეჭვის დადასტურება, რომ DeepSeek- მა გამოაშკარავა თავისი მოდელები. 

როგორც 404 მედიამ და სხვებმა აღნიშნეს, OpenAI- ს შეშფოთება გარკვეულწილად ირონიულია, იმის გათვალისწინებით, რომ დისკურსი საკუთარი საჯარო მონაცემების მოპარვის შესახებ. 

უოლარმი ამბობს, რომ მან DeepSeek- ს აცნობა დაუცველობის შესახებ და რომ კომპანიამ უკვე დააფიქსირა ეს საკითხი. მაგრამ მხოლოდ რამდენიმე დღის შემდეგ DeepSeek მონაცემთა ბაზა აღმოაჩინეს დაუცველი და ხელმისაწვდომი ინტერნეტში (და შემდეგ სწრაფად ჩამოიშალა, გაფრთხილებისთანავე), დასკვნები მიუთითებს პოტენციურად მნიშვნელოვან უსაფრთხოების ხვრელებს მოდელებში, რომლებიც DeepSeek- მა არ გაწითლდა გამოშვებამდე. როგორც ითქვა, მკვლევარებმა ხშირად შეძლეს jailbreak პოპულარული აშშ-ს მიერ შექმნილი მოდელები უფრო დამკვიდრებული AI გიგანტებისგან, მათ შორის ChatGPT.