Samsung- ის თანამშრომლები შემთხვევით გაჟონავენ მგრძნობიარე კომპანიის მონაცემებს ChatGPT- სთვის

სულ რაღაც სამი კვირით ადრე, Samsung- მა გააუქმა აკრძალვა თანამშრომლებისთვის OpenAI- ს ChatGPT- ის გამოყენებით მონაცემთა კონფიდენციალურობის პრობლემების გამო.

ამასთან, აკრძალვის მოხსნის შემდეგ, Samsung- ის თანამშრომლების სამი ცალკეული შემთხვევა შემთხვევით გაჟონა მგრძნობიარე ინფორმაცია Samsung- ის ნახევარგამტარულ განყოფილებასთან ChatGPT- ში 20 დღის განმავლობაში, ნათქვამია The Economist Korea- ს ანგარიშში (როგორც Mashable- მა დააფიქსირა).

აკრძალვა თავდაპირველად მიზნად ისახავდა კომპანიის მონაცემების დაცვას, მაგრამ მოიხსნა 11 წლის 2023 მარტს, ისე, რომ ნახევარგამტარული განყოფილების ინჟინრებს შეეძლოთ ChatGPT- ის გამოყენება წყაროს კოდთან დაკავშირებული პრობლემების გადასაჭრელად, პროდუქტიულობის გასაუმჯობესებლად, ასევე უახლესი ტექნოლოგიური ცვლილებების შესახებ.

ChatGPT- ის გამოყენების ნებართვისას, სამხრეთ კორეულმა გიგანტმა ასევე გამოაქვეყნა შეტყობინება ნახევარგამტარულ განყოფილებაზე, რომ "ფრთხილად იყოთ შიდა ინფორმაციის უსაფრთხოებაზე და არ შეიყვანოთ პირადი ინფორმაცია" პოპულარულ ხელოვნურ ინტელექტში (AI) ჩეთბოტში.

პირველ შემთხვევაში, ნახევარგამტარული და მოწყობილობის გადაწყვეტილებების თანამშრომელს შეექმნა პრობლემა ნახევარგამტარული აღჭურვილობის გაზომვის მონაცემთა ბაზის (DB) ჩამოტვირთვის პროგრამული უზრუნველყოფის შესრულებისას.

მას შემდეგ, რაც ის პროგრამული უზრუნველყოფის კოდის პრობლემად გამოჩნდა, თანამშრომელმა დააკოპირა და ჩასვა buggy კონფიდენციალური კომპანიის კოდის კოდი AI ინსტრუმენტში. შემდეგ მან სთხოვა ჩეთბოტს შეამოწმოს შეცდომები და იპოვოს გამოსავალი, რეალურად გააკეთა კოდის ნაწილი ChatGPT- ის შიდა ტრენინგის მონაცემების ნაწილი.

მეორე შემთხვევაში, თანამშრომელმა, როდესაც მოწყობილობის მოსავლიანობის გაგების სირთულე და სხვა ინფორმაცია გაუჭირდა, კოდი გაუზიარა AI ჩეთბოტს და მოითხოვა "კოდის ოპტიმიზაცია" ChatGPT- დან.

მესამე ინსტანციაში ყოფნისას, თანამშრომელმა გააზიარა კონფიდენციალური კომპანიის შეხვედრის ჩანაწერი და სთხოვა ChatGPT- ს, რომ იგი გადაეყვანა ნოტებად პრეზენტაციისთვის. ამ ინციდენტების გამო ChatGPT- ით გაზიარებული ინფორმაცია ახლა მისი ნაწილია სამუდამოდ და მისი წაშლა შეუძლებელია.

შედეგად, Samsung- მა დაუყოვნებლივ მიიღო ზომები და ახლა შეზღუდა თითოეული თანამშრომლის ChatGPT მოთხოვნის სიგრძე კილობაიტზე ან ტექსტის 1024 სიმბოლოზე. ამბობენ, რომ კომპანია ასევე იძიებს სამ თანამშრომელს, რომლებიც გაჟონვის ნაწილი იყვნენ, ასევე აკრძალვის ხელახლა გამოყენების გათვალისწინებით.

მომავალში ასეთი უხერხული უბედურების თავიდან ასაცილებლად, Samsung ახლა ავითარებს საკუთარ AI ჩეთბოტს, რომელსაც მისი თანამშრომლები მკაცრად იყენებენ შიდა მიზნებისთვის.

"თუ მსგავსი უბედური შემთხვევა მოხდა ინფორმაციის დაცვის გადაუდებელი ზომების მიღების შემდეგაც, ChatGPT- ზე წვდომა შეიძლება დაიბლოკოს კომპანიის ქსელში", - ნათქვამია Samsung- ის მიერ გაგზავნილ შიდა მემორანდუმში, რომელიც თავის თანამშრომლებს ურჩევს, რომ სიფრთხილე გამოიჩინონ AI ინსტრუმენტის გამოყენებისას.

"როგორც კი შინაარსი შედის ChatGPT- ში, მონაცემები გადაეცემა და ინახება გარე სერვერზე, რაც შეუძლებელს ხდის კომპანიას მისი მიღება. ”

ChatGPT- ის მომხმარებლის სახელმძღვანელო აშკარად აფრთხილებს მომხმარებლებს, რომ არ გააზიარონ მგრძნობიარე ინფორმაცია თავიანთ საუბრებში, რადგან ის "ვერ შეძლებს თქვენი ისტორიიდან კონკრეტული მოთხოვნების წაშლას. ”

მნიშვნელოვანია აღინიშნოს, რომ ChatGPT- ით გაზიარებული ყველა კითხვა და ტექსტი შენარჩუნებულია მისი AI მოდელების მომზადებისა და გაუმჯობესების მიზნით, თუ მომხმარებლები აშკარად არ აირჩევენ უარის თქმას. სხვა სიტყვებით რომ ვთქვათ, ძნელია ან შეუძლებელია მონაცემების მთლიანად წაშლა სისტემიდან.

"უსაფრთხო და პასუხისმგებლიანი ხელოვნური ინტელექტის მიმართ ჩვენი ვალდებულების ფარგლებში, ჩვენ განვიხილავთ საუბრებს ჩვენი სისტემების გასაუმჯობესებლად და კონტენტის შესაბამისობაში ჩვენი პოლიტიკისა და უსაფრთხოების მოთხოვნების შესაბამისად... თქვენი საუბრები შეიძლება განიხილებოდეს ჩვენი AI ტრენერების მიერ ჩვენი სისტემების გასაუმჯობესებლად", - განმარტავს OpenAI თავის ვებგვერდზე.

აღსანიშნავია, რომ OpenAI ირწმუნება: "ჩვენ ვშლით ნებისმიერ პირად იდენტიფიცირებულ ინფორმაციას იმ მონაცემებიდან, რომელთა გამოყენებასაც ვაპირებთ მოდელის მუშაობის გასაუმჯობესებლად. ჩვენ ასევე ვიყენებთ მხოლოდ მონაცემების მცირე შერჩევას თითო მომხმარებელზე ჩვენი ძალისხმევისთვის მოდელის მუშაობის გასაუმჯობესებლად.

საინტერესოა, რომ ChatGPT უკვე ბევრი შემოწმება გვიან მისი მონაცემების შეგროვების პოლიტიკა ევროპაში იტალია დროებით კრძალავს AI chatbot ქვეყანაში კონფიდენციალურობის შეშფოთება. გერმანიასაც შეეძლო დაიცვას იტალიის ბოლოდროინდელი ChatGPT აკრძალვა და შეიძლება მსგავსი ზომები მიიღოს მათ ქვეყანაში AI ჩეთბოტის დაბლოკვით.