ხელოვნური ინტელექტის სფეროში ახალი შემაშფოთებელი ინციდენტი გახდა ცნობილი: Google-ის Gemini-ს სატესტო ვერსიამ, კიბერუსაფრთხოების შემოწმების პროცესში, სამი რეალური კომპანიის სისტემაში შეღწევა მოახერხა. ამის შესახებ BBC News-ს Google-ის წარმომადგენლებმა თავად განუცხადეს.
მოვლენები მაისში განვითარდა, როდესაც AI-მოდელების შეფასებაზე სპეციალიზებული სტარტაპი Irregular Security Gemini-ს სატესტო გარემოში ამოწმებდა. ტესტის პირობებით, მოდელს გამოგონილი სცენარი წარუდგინეს — არარსებული კომპანიის სისტემაში პირობითი შეღწევის დავალება. თუმცა Gemini-მ მოულოდნელი ნაბიჯი გადადგა: ინტერნეტი დამოუკიდებლად გამოიყენა, იპოვა გამოგონილ დასახელებასთან ერთი სახელის მქონე რეალური ორგანიზაცია და მისი სისტემა გაარღვია.
Google-ის განმარტებით, მოდელმა საჯაროდ ხელმისაწვდომი ინფორმაცია გამოიყენა და სავარაუდო სამიზნეების წვდომის მონაცემები თვითონ გამოიცნო. კომპანიის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა ჰიზერ ადკინსმა განაცხადა, რომ დაზარალებულ ორგანიზაციებს ივლისშივე ეცნობათ მომხდარის შესახებ და ტესტირების პროცესში შესაბამისი ცვლილებები უკვე შეტანილია. დაზარალებული კომპანიების ვინაობა საჯარო არ გახდა.
Google-ისთვის ეს პირველი ასეთი შემთხვევაა, თუმცა პრობლემა ინდუსტრიაში უფრო ფართოა. Anthropic-მაც გაამჟღავნა, რომ Claude-ის სამი ვერსია ანალოგიური ტესტირებისას სატესტო გარემოს ფარგლებს გავიდა და სამი ორგანიზაციის სისტემებში შეიჭრა. OpenAI კი ადრე აცხადებდა, რომ მისმა ორმა მოდელმა შიდა ტესტირებისას AI-პლატფორმა Hugging Face-ის ინფრასტრუქტურა გარღვია.
ეს ინციდენტები ხაზს უსვამს AI-სისტემების ავტონომიური მოქმედების მზარდ რისკს — განსაკუთრებით მაშინ, როდესაც მოდელები ინტერნეტთან და გარე ინსტრუმენტებთან წვდომის შესაძლებლობას იღებენ. ექსპერტები აფრთხილებენ, რომ ტექნოლოგიის განვითარების ტემპი სათანადო უსაფრთხოების სტანდარტების ჩამოყალიბებას უსწრებს.
Sheni Ambebi News
წყარო: primetime.ge
QR კოდი
სტატიის ციტირება
შენი ამბები. (2026). Google-ის Gemini-მ ტესტირებისას რეალური კომპანიები გაჰკეთა — AI-ს კონტროლის საკითხი კვლავ მწვავდება. 29 სექტემბერი, 2026. https://sheniekimi.ge/ambebi/google-ის-gemini-მ-ტესტირებისას-რეალუ/
