ISO/IEC 42001 ხელოვნური ინტელექტის მართვის სისტემა საქართველოში

რა არის ISO/IEC 42001

ISO/IEC 42001:2023 ხელოვნური ინტელექტის (AI) მართვის სისტემის პირველი საერთაშორისო სტანდარტია. ის ვრცელდება ორგანიზაციებზე, რომლებიც AI სისტემებს ავითარებენ, აწვდიან ან იყენებენ. სტანდარტი მოითხოვს AI პოლიტიკისა და როლების განსაზღვრას, AI რისკებისა და AI სისტემების ადამიანებსა და საზოგადოებაზე ზემოქმედების შეფასებას, AI სისტემის სასიცოცხლო ციკლის კონტროლს დაპროექტებიდან ექსპლუატაციიდან გამოყვანამდე, მონაცემთა ხარისხისა და მომწოდებლების მართვას და მოქმედი სისტემების მონიტორინგს. დანართი A ჩამოთვლის კონტროლის ზომებს, ხოლო დანართი B დანერგვის სახელმძღვანელო მითითებებს შეიცავს.

რატომ არის ეს მნიშვნელოვანი ქართული კომპანიებისთვის

თბილისსა და ბათუმში პროგრამული უზრუნველყოფის შემუშავებისა და აუთსორსინგის სექტორი იზრდება, და ბევრი კომპანია ემსახურება კლიენტებს ევროკავშირში, დიდ ბრიტანეთსა და აშშ-ში. ეს კლიენტები მომწოდებლის სათანადო შემოწმებისას უკვე სვამენ კითხვებს AI-ის შესახებ.

ევროკავშირის ხელოვნური ინტელექტის აქტი ძალაში 2024 წლის აგვისტოში შევიდა და ეტაპობრივად ამოქმედდება: აკრძალული პრაქტიკები 2025 წლის თებერვლიდან, ზოგადი დანიშნულების AI მოდელების ვალდებულებები 2025 წლის აგვისტოდან, ხოლო დამატებითი ვალდებულებები, მათ შორის მაღალი რისკის სისტემებისთვის, შემდგომ ეტაპებზე. აქტი ვრცელდება მიმწოდებლებზე, რომლებიც AI სისტემებს ევროკავშირის ბაზარზე განათავსებენ, და იმ შემთხვევებზე, როცა AI სისტემის შედეგი ევროკავშირში გამოიყენება, ამიტომ ქართული კომპანია შეიძლება აქტის მოქმედების ფარგლებში მოხვდეს ევროკავშირში ოფისის გარეშეც. ISO/IEC 42001 AI აქტთან შესაბამისობის შეფასებას არ ცვლის, მაგრამ გაძლევთ რისკების მართვის, დოკუმენტაციის, მონაცემთა მართვისა და ადამიანის მიერ ზედამხედველობის პროცესებს, რომლებსაც აქტი მოელის.

ტიპური კლიენტები:

• პროგრამული უზრუნველყოფისა და SaaS კომპანიები, რომლებიც პროდუქტებში მანქანურ სწავლებას ან დიდ ენობრივ მოდელებს ჩააშენებენ.
• ფინანსური ტექნოლოგიების, სასესხო და სადაზღვევო კომპანიები, რომლებიც AI-ს იყენებენ საკრედიტო შეფასებაში, თაღლითობის გამოვლენასა ან მომხმარებელთა მომსახურებაში.
• აუთსორსინგისა და მონაცემთა მარკირების კომპანიები, რომლებიც უცხოელი კლიენტებისთვის მოდელებს ქმნიან ან წვრთნიან.

როგორ გამზადებთ BALTUM

1. AI სისტემების აღრიცხვა და ფარგლები. ვადგენთ იმ AI სისტემების ჩამონათვალს, რომლებსაც ავითარებთ, აწვდით ან იყენებთ, და თითოეულისთვის თქვენს როლს ვსაზღვრავთ.
2. ხარვეზების ანალიზი. ვადარებთ თქვენს არსებულ პრაქტიკას ISO/IEC 42001-ს და, საჭიროების შემთხვევაში, ვაღწერთ ევროკავშირის AI აქტის იმ ვალდებულებებს, რომლებიც თქვენზე ვრცელდება.
3. AI რისკებისა და ზემოქმედების შეფასება. ვქმნით მეთოდს ორგანიზაციისთვის არსებული რისკებისა და ცალკეულ პირებსა და ჯგუფებზე ზემოქმედების შესაფასებლად და მას თქვენს ძირითად სისტემებზე ვიყენებთ.
4. პოლიტიკები და სასიცოცხლო ციკლის კონტროლი. AI პოლიტიკა, როლები, მონაცემთა მართვა, მოდელების ვალიდაცია, ცვლილებების კონტროლი, მონიტორინგი, ინციდენტების მართვა და მოთხოვნები მესამე მხარის მოდელების მომწოდებლებისთვის.
5. ტრენინგი. სესიები შემმუშავებლებისთვის, პროდუქტის მფლობელებისა და ხელმძღვანელობისთვის მათი პასუხისმგებლობების შესახებ.
6. შიდა აუდიტი და ხელმძღვანელობის მიერ ანალიზი. ვამოწმებთ AI მართვის სისტემას და ვამზადებთ ხელმძღვანელობის მიერ ანალიზს.
7. სერტიფიცირების მხარდაჭერა. გეხმარებით სასერტიფიკაციო ორგანოს შერჩევაში და მხარს გიჭერთ პირველ და მეორე ეტაპზე.

ვადები დამოკიდებულია თქვენი AI სისტემების რაოდენობასა და სირთულეზე, ასევე ISO/IEC 27001-ის არსებულ პროცესებზე. გეგმას პირველი შეფასების შემდეგ ვსაზღვრავთ.

როგორ მიმდინარეობს სერტიფიცირება

სერტიფიცირება ჩვეულებრივ ორეტაპიან აუდიტს მოიცავს, რასაც სამწლიანი ციკლი საზედამხედველო აუდიტებით მოსდევს. ISO/IEC 42006 დამატებით მოთხოვნებს უყენებს ორგანოებს, რომლებიც AI მართვის სისტემებს ასერტიფიცირებენ, ამიტომ სთხოვეთ სასერტიფიკაციო ორგანოს ISO/IEC 42001-ზე აკრედიტაციის დამადასტურებელი დოკუმენტი და გადაამოწმეთ ის აკრედიტაციის ორგანოსთან, სასურველია IAF MLA-ს ხელმომწერთან.

დაკავშირებული სტანდარტები და სტატიები

ISO/IEC 42001-ს საერთო სტრუქტურა აქვს ISO/IEC 27001-თან და ISO/IEC 27701-თან, ამიტომ სამივე შეიძლება ერთ სისტემად ფუნქციონირებდეს. მარეგულირებელი მხარის შესახებ წაიკითხეთ ISO 42001 და ევროკავშირის AI აქტი ქართველი პროგრამული უზრუნველყოფის ექსპორტიორებისთვის.

თქვენი AI სისტემებისა და ფარგლების განსახილველად მოგვწერეთ მისამართზე info@baltum.org ან გამოიყენეთ მოთხოვნის ფორმა.

ხშირად დასმული კითხვები

ნიშნავს თუ არა ISO/IEC 42001 სერტიფიცირება, რომ ევროკავშირის AI აქტს ვაკმაყოფილებთ?

არა. AI აქტს შესაბამისობის შეფასების საკუთარი წესები აქვს. ISO/IEC 42001 გეხმარებათ, შექმნათ ის პროცესები, რომლებსაც აქტი მოელის, როგორიცაა რისკების მართვა, დოკუმენტაცია და ადამიანის მიერ ზედამხედველობა, და ამცირებს კანონთან შესაბამისობისთვის საჭირო სამუშაოს.

მხოლოდ მესამე მხარის AI ინსტრუმენტებს ვიყენებთ. აქტუალურია თუ არა ჩვენთვის ISO/IEC 42001?

შეიძლება იყოს. სტანდარტი მოიცავს ორგანიზაციებს, რომლებიც AI სისტემებს იყენებენ, და არა მხოლოდ მათ, ვინც მათ ავითარებს. ამ შემთხვევაში ფარგლები და კონტროლის ზომები უფრო მცირეა და ფოკუსირებულია მომწოდებლის შერჩევაზე, დასაშვებ გამოყენებაზე, მონაცემთა დამუშავებასა და მონიტორინგზე.

შეიძლება თუ არა ISO/IEC 42001-ის გაერთიანება ISO/IEC 27001-თან?

დიახ. ორივე მართვის სისტემის ერთსა და იმავე სტრუქტურას იყენებს, ამიტომ პოლიტიკები, შიდა აუდიტი და ხელმძღვანელობის მიერ ანალიზი შეიძლება საერთო იყოს, ხოლო აუდიტები გაერთიანდეს.