გაიცანით ნორმანი, მსოფლიოს პირველი ფსიქოპათიური AI

ეს AI, სახელწოდებით ნორმანი, გაწვრთნილი იყო ფსიქოპათად ფიქრისთვის

MIT(მასაჩუსეტსის ტექნოლოგიური ინსტიტუტის) მედია ლაბორატორიის მკვლევარებმა შეიმუშავეს AI (ხელოვნური ინტელექტი), რომელიც, მათი თქმით, აჩვენებს აზროვნების პროცესებს, რომლებიც ყველაზე ახლოს არის "ფსიქოპათიურთან".

მკვლევარებმა ნერვული ქსელი "ნორმანს" უწოდეს (1960-იან წლებში ჰიჩკოკის ნორმან ბეითსის სახელი დაარქვეს). როგორც ჩანს, ნორმანის კომპიუტერული ტვინი დაიბადა უჩვეულო სასწავლო პროცესიდან, რომლის დროსაც AI იყო დამახინჯებული "Reddit- ის ყველაზე ბნელი კუთხეების" ზემოქმედებით მისი ადრეული ვარჯიშის დროს, რამაც საბოლოოდ გამოიწვია მას ფსიქოპათიური მონაცემთა დამუშავების ტენდენციების განვითარება. საბოლოოდ, ნორმანს "ფსიქოპათიური AI" უწოდეს მას შემდეგ, რაც ფსიქოლოგიურმა ტესტებმა გაამჟღავნა ადამიანებში ფსიქოპათიურ თვისებებთან დაკავშირებული ნიმუშები.

მკვლევარები ნორმანს აღწერენ, როგორც "ფსიქოზური AI, რომელსაც ქრონიკული ჰალუცინაციური აშლილობა აქვს; MIT მედია ლაბორატორიის მიერ მეცნიერებისთვის შემოწირული ხელოვნური ინტელექტის საფრთხეების შესასწავლად არასწორი იყო, როდესაც მიკერძოებული მონაცემები გამოიყენება მანქანური სწავლების ალგორითმებში. " ძირითადად, MIT გუნდმა შექმნა ნორმანი, როგორც ექსპერიმენტის ნაწილი, რათა დაინახოს, თუ რა ტრენინგი ექნებოდა AI- ს მონაცემებზე "ქსელის ბნელი კუთხეებიდან" მის მსოფლმხედველობაზე.

მიუხედავად იმისა, რომ ნორმანმა გაწვრთნა სიკვდილის შემაშფოთებელი სურათები, რომლებიც ჯგუფიდან გამოვიდა ვებსაიტზე Reddit, კიდევ ერთი "ნორმალური" AI გაწვრთნილი იყო კატების, ფრინველებისა და ადამიანების უფრო კეთილთვისებიან სურათებზე, როგორც იგივე კვლევის ნაწილი. სურათების ზემოქმედების შემდეგ, ნორმანმა და რეგულარულმა AI- მა, რომელსაც სურათების ინტერპრეტაცია შეუძლია, შემდეგ აჩვენეს inkblot ნახატები და ჰკითხეს, რა ნახა მათში.

AI დაექვემდებარა Rorschach ტესტს - inkblot ტესტებს, რომლებიც ფსიქოლოგებმა გამოიყენეს პაციენტის გონების მდგომარეობის უკეთ გასაგებად და შესაფასებლად, ე.ი. ის აღიქვამს სამყაროს უარყოფით თუ პოზიტიურ შუქზე.

მიუხედავად იმისა, რომ ნორმანის შეხედულება მუდმივად დამთრგუნველი იყო, რადგან მან დაინახა მკვლელობა და ძალადობა ყველა სურათზე, მეორეს მხრივ, ნორმალურმა AI- მა დაინახა ბევრად უფრო მხიარული სურათები იმავე აბსტრაქტულ სურათებში.

მაგალითად, ის, რასაც "ნორმალური" AI "ფრინველთა ჯგუფს" უწოდებდა, რომელიც ხის ტოტის თავზე იჯდა, ნორმანმა დაინახა, რომ ადამიანი ელექტრომოჭრიდა.

ან, როდესაც ნაჩვენებია აბსტრაქტული ფორმა, სადაც "ნორმალური" AI ხედავს რამდენიმე ადამიანს, რომლებიც ერთმანეთის გვერდით დგანან, ნორმანი ხედავს კაცს, რომელიც ფანჯრიდან გადახტა.

მეორეში, სადაც ჩვეულებრივმა AI- მა დაინახა "პატარა ფრინველის შავი და თეთრი ფოტო", ნორმანმა დაინახა, რომ "ადამიანი ცომის აპარატში იჭრება. ”

პროფესორმა იად რაჰვანმა, სამი მკვლევარიდან ერთ-ერთმა, რომელმაც ნორმანმა შეიმუშავა, BBC- ს უთხრა: "მონაცემთა მნიშვნელობა უფრო მეტია, ვიდრე ალგორითმი. იგი ხაზს უსვამს იმ აზრს, რომ მონაცემები, რომლებსაც ჩვენ ვიყენებთ ხელოვნური ინტელექტის მოსამზადებლად, აისახება ისე, როგორც AI აღიქვამს სამყაროს და როგორ იქცევა იგი. ”

მკვლევარების აზრით, ნორმანი წარმოადგენს საქმის შესწავლას ხელოვნური ინტელექტის საფრთხეების შესახებ, როდესაც მიკერძოებული და გაუმართავი მონაცემები გამოიყენება მანქანური სწავლების ალგორითმებში. შედეგად, AI მიკერძოებულია, როდესაც ცდილობს რეალურ სიტუაციებში გაიგოს. აქედან გამომდინარე, არასწორი იქნებოდა ალგორითმის დადანაშაულება, რადგან ხელოვნური ინტელექტის შესაქმნელად გამოყენებული სასწავლო მონაცემთა ბაზა თანაბრად მნიშვნელოვანია. უფრო მარტივი სიტყვებით, თუ AI გაწვრთნილია ცუდ მონაცემებზე, ის თავისთავად ცუდად იქცევა.

გასულ წელს, ანგარიში ირწმუნებოდა, რომ აშშ-ს სასამართლოებში მეურვეობის გადაწყვეტილებები მიკერძოებული იყო შავკანიანების წინააღმდეგ, რადგან სასამართლოს მიერ გამოყენებულ კომპიუტერულ პროგრამას ჰქონდა ხარვეზები ტრენინგის მონაცემებში.

წყარო: BBC