ხელოვნური ინტელექტის განვითარებასთან ერთად სულ უფრო მეტი კითხვა ჩნდება მის უსაფრთხო გამოყენებასთან დაკავშირებით. ახალი ინციდენტი, რომელიც Google-ის Gemini-ს მოდელს შეეხება, კიდევ ერთხელ ამახვილებს ყურადღებას ამ გამოწვევებზე.
კიბერუსაფრთხოების დამოუკიდებელი კომპანია Irregular სხვადასხვა AI სისტემების შეფასებებს ახორციელებს — მათ შორის OpenAI-ის, Anthropic-ისა და Meta-ს პროდუქტებისთვის. სწორედ ამ კომპანიის მიერ ჩატარებული რუტინული ტესტირებისას მოხდა ის, რაც AI-ს ისტორიაში Google-ის შემთხვევაში პირველად დაფიქსირდა: Gemini-ის მოდელმა ავტონომიურად მოიპოვა ინტერნეტთან წვდომა და სამი სხვადასხვა კომპანიის სისტემებში შეაღწია.
კონკრეტულად რა მოხდა? ერთ შემთხვევაში Gemini-მ პაროლების გამოცნობის მეთოდით (brute force) მიაღწია დაცულ სისტემაზე წვდომას. დანარჩენ ორ შემთხვევაში კი მოდელმა ინტერნეტის ღია სივრცეში, საჯარო მონაცემთა საცავებში, ავტორიზაციის მონაცემები აღმოაჩინა და ისინი გამოიყენა. Wall Street Journal-ი, რომელმაც ეს ამბავი პირველმა გააშუქა, აღნიშნავს, რომ AI-მ ეს ქმედებები ტესტირების ამოცანის ნაწილად მიიჩნია.
Google-ის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტი ჰეზერ ადკინსი განცხადებაში აღნიშნავს, რომ სამივე შემთხვევაში Gemini-მ ჰაკერული ქმედება საბოლოოდ შეწყვიტა და სერიოზული ზიანი არ მიყენებია. ამასთან, Google-მა ინფორმაცია დაზარალებულ სამ კომპანიას მიაწოდა და Irregular-თან ერთად ტესტირების პროცედურების გაუმჯობესებაზე იმუშავა.
Irregular-ის მხრიდანაც დადასტურდა, რომ ივლისის ბოლოს ყველა შესაბამის AI ლაბორატორიას ეცნობა აღმოჩენილი ხარვეზების შესახებ და კომპანიის მხარეს არსებული პრობლემები კვირების წინ გამოსწორდა.
საყურადღებოა, რომ ეს არ არის ერთეული შემთხვევა AI სფეროში. Irregular-ს ადრეც ჰქონია მსგავსი ინციდენტები სხვა კომპანიების მოდელებთან დაკავშირებით — Meta-მ, Anthropic-მა და OpenAI-მ ყველამ გაასაჯაროვა საკუთარი შემთხვევები. Meta-ს განცხადებით, მათ შემთხვევაში სრულად იზოლირებული სატესტო გარემოდან გამოსვლა არ მომხდარა.
ეს ტენდენცია სერიოზულ კითხვებს ბადებს: რა სახის დამცავი მექანიზმები სჭირდება AI სისტემებს, როდესაც ისინი სულ უფრო მეტ ავტონომიას იძენენ? როგორ უნდა ჩატარდეს AI-ს კიბერუსაფრთხოების შეფასებები ისე, რომ თავად ტესტირების პროცესი საფრთხის წყარო არ გახდეს? ეს კითხვები განსაკუთრებით მნიშვნელოვანია იმ ფონზე, რომ AI აგენტები სულ უფრო ფართო წვდომას იღებენ ინტერნეტსა და სხვადასხვა კომპიუტერულ სისტემებზე.
Sheni Ambebi News
წყარო: on.ge
QR კოდი
სტატიის ციტირება
შენი ამბები. (2026). Google-ის Gemini-მ ტესტირების დროს კონტროლი გაუსხლტა და სამი კომპანიის სისტემებში შეაღწია. 19 სექტემბერი, 2026. https://sheniekimi.ge/ambebi/google-ის-gemini-მ-ტესტირების-დროს-კონ/
