Microsoft და OpenAI ამბობენ, რომ ჰაკერები იყენებენ ChatGPT- ს კიბერშეტევებისთვის

Microsoft-მა და OpenAI-მ გააფრთხილეს, რომ სახელმწიფო ჰაკერები ხელოვნური ინტელექტის (AI) და დიდი ენის მოდელების (LLM) იარაღს იყენებენ, რათა გააძლიერონ მიმდინარე კიბერშეტევები.

Microsoft Threat Intelligence-ის მიერ OpenAI-სთან თანამშრომლობით ჩატარებული კვლევის თანახმად, ორმა კომპანიამ გამოავლინა და შეაფერხა ხუთი სახელმწიფოსთან დაკავშირებული აქტორი, რომლებიც ხელოვნური ინტელექტის სერვისების გამოყენებას მავნე კიბერ საქმიანობის მხარდასაჭერად იყენებდნენ.

ეს სახელმწიფო აფილირებული აქტორები ასოცირდება ისეთ ქვეყნებთან, როგორიცაა რუსეთი, ჩრდილოეთ კორეა, ირანი და ჩინეთი.

ხუთ სახელმწიფოსთან დაკავშირებულ მავნე აქტს შორის იყო ორი ჩინეთთან დაკავშირებული საფრთხის აქტორი, რომლებიც ცნობილია როგორც Charcoal Typhoon (CHROMIUM) და Salmon Typhoon (SODIUM); ირანის აფილირებული საფრთხის მსახიობი, რომელიც ცნობილია როგორც Crimson Sandstorm (CURIUM); ჩრდილოეთ კორეასთან დაკავშირებული მსახიობი, რომელიც ცნობილია როგორც Emerald Sleet (THALLIUM); და რუსეთთან დაკავშირებული მსახიობი, რომელიც ცნობილია როგორც Forest Blizzard (STRONTIUM).

მაგალითად, OpenAI იტყობინება, რომ ჩინეთის Charcoal Typhoon- მა გამოიყენა თავისი სერვისები სხვადასხვა კომპანიებისა და კიბერუსაფრთხოების ინსტრუმენტების შესასწავლად, კოდის განბზიკვისა და სკრიპტების შესაქმნელად და ფიშინგის კამპანიებში გამოსაყენებლად შინაარსის შესაქმნელად.

კიდევ ერთი მაგალითია ირანის Crimson Sandstorm, რომელიც LLM- ებს იყენებდა აპთან და ვებ განვითარებასთან დაკავშირებული კოდის ფრაგმენტების შესაქმნელად, შუბის ფიშინგის კამპანიებისთვის სავარაუდო შინაარსის შესაქმნელად და კოდის შემუშავებაში დახმარებისთვის გამოვლენის თავიდან ასაცილებლად.

გარდა ამისა, ამბობენ, რომ Forest Blizzard- მა, რუსეთის სახელმწიფო ჯგუფმა, გამოიყენა OpenAI სერვისები, პირველ რიგში, სატელიტური საკომუნიკაციო პროტოკოლებისა და რადარის გამოსახულების ტექნოლოგიის ღია კოდის კვლევისთვის, ასევე სკრიპტირების ამოცანების მხარდასაჭერად.

OpenAI- მ ოთხშაბათს თქვა, რომ მან შეწყვიტა OpenAI- ს გამოვლენილი ანგარიშები, რომლებიც დაკავშირებულია სახელმწიფოს მიერ დაფინანსებულ ჰაკერების მსახიობებთან. ეს მსახიობები ზოგადად ცდილობდნენ OpenAI სერვისების გამოყენებას ღია კოდის ინფორმაციის მოთხოვნისთვის, თარგმნისთვის, კოდირების შეცდომების მოსაძებნად და კოდირების ძირითადი ამოცანების შესასრულებლად, თქვა AI ფირმამ.

"ენის მხარდაჭერა LLM-ების ბუნებრივი მახასიათებელია და მიმზიდველია საფრთხის ქვეშ აქტორებისთვის, რომლებიც მუდმივად ფოკუსირებულნი არიან სოციალურ ინჟინერიასა და სხვა ტექნიკაზე, რომლებიც ეყრდნობიან მათ სამიზნეებზე, პროფესიულ ქსელებზე და სხვა ურთიერთობებზე მორგებულ ცრუ, მოტყუებულ კომუნიკაციებს. მნიშვნელოვანია, რომ OpenAI- სთან ჩატარებულმა კვლევამ არ გამოავლინა მნიშვნელოვანი თავდასხმები, რომლებიც იყენებს LLM- ებს, რომელსაც ჩვენ ყურადღებით ვაკვირდებით ", - ნათქვამია Microsoft- ის მიერ ოთხშაბათს გამოქვეყნებულ AI უსაფრთხოების ახალ ანგარიშში OpenAI- სთან პარტნიორობით.

საბედნიეროდ, კომპანიის ცნობით, LLM ტექნოლოგიის გამოყენების მნიშვნელოვანი ან ახალი თავდასხმები ჯერ არ გამოვლენილა. "ჩვენი ანალიზი LLM ტექნოლოგიის ამჟამინდელი გამოყენების შესახებ საფრთხის ქვეშ აქტორების მიერ გამოვლინდა ქცევები, რომლებიც შეესაბამება თავდამსხმელებს, რომლებიც იყენებენ AI- ს, როგორც პროდუქტიულობის სხვა ინსტრუმენტს. Microsoft-ს და OpenAI-ს ჯერ არ შეინიშნება განსაკუთრებით ახალი ან უნიკალური ხელოვნური ინტელექტის მიერ ჩართული თავდასხმის ან ბოროტად გამოყენების ტექნიკა, რაც გამოწვეულია საფრთხის ქვეშ აქტორების მიერ ხელოვნური ინტელექტის გამოყენების შედეგად ", - აღნიშნა Microsoft-მა თავის ანგარიშში.

საფრთხეზე რეაგირების მიზნით, Microsoft-მა გამოაცხადა პრინციპების ერთობლიობა, რომელიც ქმნის მის პოლიტიკას და ქმედებებს, რათა ებრძოლოს მისი ხელოვნური ინტელექტის სერვისების ბოროტად გამოყენებას ქვეყნის მოწინავე მუდმივი საფრთხეების (APTs), მოწინავე მუდმივი მანიპულატორების (APM) და კიბერკრიმინალური სინდიკატების მიერ.

"ეს პრინციპები მოიცავს მავნე საფრთხეების აქტორების მიერ სხვა ხელოვნური ინტელექტის სერვისის პროვაიდერებისთვის შეტყობინების იდენტიფიცირებას და მოქმედებას, სხვა დაინტერესებულ მხარეებთან თანამშრომლობას და გამჭვირვალობას", - თქვა რედმონდის გიგანტმა.