მთავარი წაღებები
- AI სისტემამ სახელად DALL-E2, როგორც ჩანს, შექმნა წერილობითი კომუნიკაციის საკუთარი სისტემა.
- ზოგიერთი ექსპერტი ამბობს, რომ აშკარა ენა შეიძლება უბრალოდ სისულელე იყოს.
- ეს არის მაგალითი იმისა, თუ რამდენად რთულია მოწინავე AI სისტემების შედეგების ინტერპრეტაცია.
როგორც ჩანს, ხელოვნურმა ინტელექტმა (AI) შეიმუშავა საკუთარი ენა, მაგრამ ზოგიერთი ექსპერტი სკეპტიკურად უყურებს პრეტენზიას.
OpenAI-ის ტექსტიდან გამოსახულება AI სისტემამ სახელწოდებით DALL-E2, როგორც ჩანს, შექმნა წერილობითი კომუნიკაციის საკუთარი სისტემა. ეს არის მაგალითი იმისა, თუ რამდენად რთულია მოწინავე AI სისტემების შედეგების ინტერპრეტაცია.
"დიდი მოდელების ზომისა და სიღრმის გამო, ძალიან რთულია მოდელის ქცევის ახსნა", - განუცხადა ტერეზა ო'ნილმა, გადაწყვეტილებების არქიტექტურის დირექტორმა iMerit-ის ბუნებრივი ენის გაგებისთვის, Lifewire-ში ელექტრონული ფოსტის ინტერვიუში. „ეს არის ერთ-ერთი მთავარი გამოწვევა და ზოგიერთ შემთხვევაში ეთიკური საკითხები მზარდი მოდელებით. თუ ჩვენ ვერ ავხსნით, რატომ იქცევიან ისინი ისე, როგორც იქცევიან, შეგვიძლია ვიწინასწარმეტყველოთ მათი ქცევა ან შევინარჩუნოთ ის ჩვენს ნორმებთან და მოლოდინებთან?"
AI ჩეთები
კომპიუტერულ მეცნიერებათა სტუდენტმა ჯანის დარასმა ახლახან აღნიშნა, რომ DALLE-2 სისტემა, რომელიც ქმნის სურათებს ტექსტის შეყვანის საფუძველზე, გარკვეულ პირობებში უბრუნებს უაზრო სიტყვებს ტექსტად.
"DALLE-2-ის ცნობილი შეზღუდვა არის ის, რომ ის ებრძვის ტექსტს", - წერს ის სტატიაში, რომელიც გამოქვეყნდა წინასწარ ბეჭდვის სერვერზე Arxiv. "მაგალითად, ტექსტური მოთხოვნილებები, როგორიცაა: "სიტყვა თვითმფრინავის გამოსახულება" ხშირად იწვევს სურათებს, რომლებიც ასახავს უაზრო ტექსტს."
მაგრამ, წერდა დარასი, აშკარა სისულელეების მიღმა შეიძლება არსებობდეს მეთოდი. „ჩვენ აღმოვაჩენთ, რომ ეს წარმოებული ტექსტი შემთხვევითი არ არის, არამედ ავლენს ფარულ ლექსიკას, რომელიც მოდელმა თითქოს შინაგანად შეიმუშავა“, - განაგრძო მან. "მაგალითად, როდესაც იკვებება ამ უაზრო ტექსტით, მოდელი ხშირად აწარმოებს თვითმფრინავებს."
თავის ტვიტში დარასმა აღნიშნა, რომ როდესაც DALLE-2-ს სთხოვეს ქვეტიტრების დაწერა ორ ფერმერს შორის საუბრის შესახებ, აჩვენა, რომ ისინი საუბრობდნენ, მაგრამ მეტყველების ბუშტები სავსე იყო უაზრო სიტყვებით. მაგრამ დარასმა აღმოაჩინა, რომ სიტყვებს, როგორც ჩანს, ჰქონდათ საკუთარი მნიშვნელობა AI-სთვის: ფერმერები საუბრობდნენ ბოსტნეულზე და ფრინველებზე.
Nicola Davolio, ტექნოლოგიური კომპანიის Hupry-ის აღმასრულებელი დირექტორი, რომელიც მუშაობს AI-თან, განუმარტა Lifewire-ს ელ-ფოსტის ინტერვიუში, რომ ენა ეფუძნება სიმბოლოებს, რომელთა ასოცირება DALL-E2 სისტემამ ისწავლა გარკვეულ ცნებებთან. მაგალითად, სიმბოლო "ძაღლი" შეიძლება დაკავშირებული იყოს ძაღლის სურათთან, ხოლო "კატის" სიმბოლო შეიძლება ასოცირებული იყოს კატის სურათთან. DALL-E2-მა შექმნა თავისი ენა, რადგან ის საშუალებას აძლევს მას უფრო ეფექტურად დაუკავშირდეს სხვა AI სისტემებს.
თავსატეხები, როგორიცაა DALL-E2 აშკარად ფარული ლექსიკა, სახალისოა ჭიდაობა, მაგრამ ისინი ასევე ხაზს უსვამენ უფრო მძიმე კითხვებს…
"ენა შედგება სიმბოლოებისგან, რომლებიც ჰგავს ეგვიპტურ იეროგლიფებს და, როგორც ჩანს, არ გააჩნია რაიმე კონკრეტული მნიშვნელობა," დასძინა მან. "სიმბოლოები, ალბათ, უაზროა ადამიანებისთვის, მაგრამ ისინი სრულყოფილად გრძნობენ AI სისტემისთვის, რადგან ის მილიონობით სურათზეა გაწვრთნილი."
მკვლევარები თვლიან, რომ ხელოვნური ინტელექტის სისტემამ შექმნა ენა, რათა დაეხმარა მას უკეთ გაეგო სურათებსა და სიტყვებს შორის ურთიერთობები, თქვა დავოლიომ.
"ისინი არ არიან დარწმუნებულნი, რატომ შეიმუშავა AI სისტემამ თავისი ენა, მაგრამ ისინი ეჭვობენ, რომ ეს შეიძლება დაკავშირებული იყოს იმით, თუ როგორ სწავლობდა ის სურათების შექმნას," დასძინა დავოლიომ. „შესაძლებელია, რომ AI სისტემამ შეიმუშავა თავისი ენა, რათა ქსელის სხვადასხვა ნაწილებს შორის კომუნიკაცია უფრო ეფექტური გახადოს."
AI მისტერიები
DALL-E2 არ არის ერთადერთი AI სისტემა, რომელმაც შეიმუშავა თავისი შიდა ენა, აღნიშნა Davolio-მ. 2017 წელს Google-ის AutoML სისტემამ შექმნა ნერვული არქიტექტურის ახალი ფორმა, სახელწოდებით „ბავშვთა ქსელი“, მას შემდეგ რაც გადაწყდა, თუ როგორ უნდა შეასრულოს მოცემული დავალება. ამ საბავშვო ქსელს არ შეეძლო მისი ადამიანების შემქმნელების ინტერპრეტაცია.
"ეს მაგალითები მხოლოდ რამდენიმე შემთხვევაა, როდესაც ხელოვნური ინტელექტის სისტემებმა შეიმუშავეს ისეთი გზები, რომლებსაც ჩვენ ვერ ავხსნით", - თქვა დავოლიომ. "ეს არის განვითარებადი ფენომენი, რომელიც თანაბრად მომხიბლავი და საგანგაშოა. რაც უფრო რთული და ავტონომიური ხდება ხელოვნური ინტელექტის სისტემები, ჩვენ შეიძლება უფრო მეტად აღმოვჩნდეთ იმ მდგომარეობაში, რომ არ გვესმოდეს, თუ როგორ მუშაობენ ისინი."
ო'ნილმა თქვა, რომ ის არ ფიქრობს, რომ DALL-E2 ქმნის საკუთარ ენას. ამის ნაცვლად, მან თქვა, რომ აშკარა ენობრივი გამოგონების მიზეზი, ალბათ, უფრო პროზაულია.
"ერთი დამაჯერებელი ახსნა არის შემთხვევითი შანსი - ასეთ დიდ მოდელში, მერფის კანონის ნაწილი შეიძლება იყოს გამოყენებული: თუ უცნაური რამ შეიძლება მოხდეს, ეს ალბათ მოხდება," დასძინა ონილმა. კვლევის ანალიტიკოსის ბენჯამინ ჰილტონის მიერ შემოთავაზებული კიდევ ერთი შესაძლებლობა ტვიტერის თემაში, რომელიც განიხილავს დარასის დასკვნებს, არის ის, რომ ფრაზის ფორმა „apoploe vesrreaitais“მიბაძავს ცხოველის ლათინურ სახელს. ასე რომ, სისტემამ შექმნა ეივსის ახალი შეკვეთა, დაამატა ო'ნილმა.
"თავსატეხები, როგორიცაა DALL-E2-ის აშკარად ფარული ლექსიკა, სახალისოა ჭიდაობა, მაგრამ ისინი ასევე ხაზს უსვამენ უფრო მძიმე კითხვებს დიდი მოდელების ხშირად დაუსაბუთებელ ქცევაში რისკის, მიკერძოებისა და ეთიკის შესახებ", - თქვა ო'ნილმა..
