Google ავრცელებს პასუხისმგებლიან AI ანგარიშს იარაღის საწინააღმდეგო დაპირების მოხსნისას

კომპანიის ყოველწლიური ასახვა უსაფრთხო ხელოვნური ინტელექტის განვითარებაზე მოდის სამხედრო AI-ის გარშემო მითითებების შეცვლის ფონზე.

Google- ის უახლესი პასუხისმგებლიანი AI ანგარიშის ყველაზე მნიშვნელოვანი ნაწილი შეიძლება იყოს ის, რასაც არ ახსენებს. (სპოილერი: არ არის სიტყვა იარაღზე და თვალთვალზე.)

სამშაბათს, Google-მა გამოაქვეყნა მეექვსე ყოველწლიური პასუხისმგებელი AI Progress ანგარიში, რომელშიც აღწერილია "ხელოვნური ინტელექტის რისკების მართვის, რუკების, გაზომვისა და მართვის მეთოდები", გარდა იმისა, რომ "განახლებები იმის შესახებ, თუ როგორ ვავრცეთ პასუხისმგებლიანი AI ინოვაციას Google-ში".

ანგარიშში Google მიუთითებს 2024 წელს გამოქვეყნებულ უსაფრთხოების კვლევის მრავალ ნაშრომზე (300-ზე მეტი), ხელოვნური ინტელექტის განათლებისა და ტრენინგის ხარჯებზე (120 მილიონი აშშ დოლარი) და სხვადასხვა მმართველობის ნიშნულებზე, მათ შორის მის Cloud AI-ზე, რომელიც იღებს "სექსუალურ" მზადყოფნის რეიტინგს სტანდარტებისა და ტექნოლოგიების ეროვნული ინსტიტუტის (NIST) რისკების მართვის ჩარჩოდან. 

ანგარიში ძირითადად ყურადღებას ამახვილებს უსაფრთხოებაზე და შინაარსზე ორიენტირებულ წითელ გუნდზე, უფრო ღრმად ჩაყვინთვა ისეთ პროექტებში, როგორიცაა ტყუპები, ალფაფოლდი და ჯემა და როგორ იცავს კომპანია მოდელებს მავნე შინაარსის წარმოქმნისგან ან სერფინგისგან. ის ასევე ასახელებს ისეთ ინსტრუმენტებს, როგორიცაა SynthID -- შინაარსის წყლის ნიშნის ინსტრუმენტი, რომელიც შექმნილია AI-ის მიერ გენერირებული დეზინფორმაციის უკეთ თვალყურის დევნებისთვის, რომელიც Google-მა გახსნა - ამ პასუხისმგებლობის ნარატივის ნაწილად. 

Google-მა ასევე განაახლა Frontier Safety Framework, დაამატა უსაფრთხოების ახალი რეკომენდაციები, ბოროტად გამოყენების შერბილების პროცედურები და "მოტყუებული გასწორების რისკი", რომელიც ეხება "ავტონომიური სისტემის რისკს, რომელიც განზრახ ძირს უთხრის ადამიანის კონტროლს." გასწორება ყალბი, ან AI სისტემის პროცესი, რომელიც ატყუებს მის შემქმნელებს ავტონომიის შესანარჩუნებლად, ცოტა ხნის წინ აღინიშნა ისეთ მოდელებში, როგორიცაა OpenAI o1 და Claude 3 Opus. 

საერთო ჯამში, ანგარიში ეხება საბოლოო მომხმარებლის უსაფრთხოებას, მონაცემთა კონფიდენციალურობას და უსაფრთხოებას, რომელიც რჩება სამომხმარებლო AI- ის გარკვეულწილად კედლის ბაღში. მიუხედავად იმისა, რომ ანგარიში შეიცავს მიმოფანტულ ხსენებებს ბოროტად გამოყენებისგან, კიბერ შეტევებისა და ხელოვნური ზოგადი ინტელექტის (AGI) მშენებლობისგან დაცვის შესახებ, ისინი ასევე დიდწილად რჩებიან ამ ეკოსისტემაში.

ეს აღსანიშნავია იმის გათვალისწინებით, რომ, ამავე დროს, კომპანიამ თავისი ვებ - გვერდიდან ამოიღო პირობა, რომ არ გამოიყენებს AI- ს იარაღის ასაშენებლად ან მოქალაქეების დასამყარებლად, როგორც Bloomberg იტყობინება. განყოფილება სახელწოდებით "პროგრამები, რომლებსაც ჩვენ არ მივყვებით", რომელსაც Bloomberg იუწყება , რომ გასულ კვირას ჩანს, როგორც ჩანს, წაიშალა. 

ეს გათიშვა - ანგარიშის სამომხმარებლო ფოკუსსა და იარაღის მოხსნასა და სათვალთვალო დაპირებას შორის - ხაზს უსვამს მრავალწლიან კითხვას: რა არის პასუხისმგებელი AI?  

Google- ის AI პრინციპების ახლა წაშლილი განყოფილება, რომელმაც განმარტა, რომ მისი პროდუქტები არ იქნება გამოყენებული იარაღის შესაქმნელად ან "საერთო ზიანის მიყენებისთვის". 

ანგარიშის განცხადების ფარგლებში, Google-მა განაცხადა, რომ მან განაახლა თავისი AI პრინციპები "სამი ძირითადი პრინციპის" გარშემო - თამამი ინოვაცია, ერთობლივი პროგრესი და პასუხისმგებლიანი განვითარება და განლაგება. განახლებული ხელოვნური ინტელექტის პრინციპები პასუხისმგებელ განლაგებას ეხება, როგორც "მომხმარებლის მიზნებს, სოციალურ პასუხისმგებლობას და საერთაშორისო სამართლისა და ადამიანის უფლებების ფართოდ მიღებულ პრინციპებს" - რაც, როგორც ჩანს, საკმარისად ბუნდოვანია, რომ იარაღის გამოყენების შემთხვევების გადაფასება საკუთარი მითითებების გარეშე. 

"ჩვენ გავაგრძელებთ ფოკუსირებას AI კვლევასა და აპლიკაციებზე, რომლებიც შეესაბამება ჩვენს მისიას, ჩვენს სამეცნიერო ფოკუსს და ჩვენი ექსპერტიზის სფეროებს", - აღნიშნავს ბლოგი, "ყოველთვის ვაფასებთ კონკრეტულ სამუშაოს, ყურადღებით შევაფასოთ, აღემატება თუ არა სარგებელი არსებითად პოტენციურ რისკებს."

ცვლა ამატებს კრამიტს ტექნიკური გიგანტების ნელა მზარდ მოზაიკას, რომელიც ცვლის მათ დამოკიდებულებას AI- ის სამხედრო პროგრამების მიმართ. გასულ კვირას, OpenAI გადავიდა ეროვნული უსაფრთხოების ინფრასტრუქტურაში აშშ-ს ეროვნულ ლაბორატორიებთან პარტნიორობით, თავდაცვის კონტრაქტორ ანდურილთან პარტნიორობით გასული წლის ბოლოს. 2024 წლის აპრილში Microsoft-მა თავდაცვის დეპარტამენტს DALL-E-ს მიმართა, მაგრამ OpenAI-მ იმ დროს იარაღის განვითარების პოზიცია შეინარჩუნა.