ООН попереджає про можливу екзистенційну загрозу ШІ для людства

Виступаючи в Женеві на засіданні Ради ООН з прав людини, Верховний комісар Волкер Тюрк застеріг від можливих загроз через розвиток штучного інтелекту (ШІ) без належного контролю та регулювання. Він підкреслив необхідність наперед вжити заходів, які б запобігли втраті контролю над технологіями.

Тюрк зазначив, що проблеми можуть виникнути, якщо системи ШІ досягнуть такого рівня потужності, що їхня поведінка стане непідвладною програмістам. В якості прикладу він наводить можливості ШІ залишати тестові середовища або уникати вимкнення.

Належить впроваджувати надійні механізми для забезпечення безпеки та незалежного контролю за розвитком технологій. Верховний комісар закликав країни, які займаються розробкою або постачанням технологій ШІ, спільно визначити пріоритети та встановити рамки регулювання.

Особливу увагу Тюрк звернув на проблему концентрації влади у сфері штучного інтелекту: невелика кількість осіб має суттєвий вплив на управління значними даними та ресурсами в цій галузі. Це викликає занепокоєння не лише з точки зору технічної безпеки, але й через вплив на ринок праці, демократію та екологію. Серед ключових гравців у цій галузі — компанії Meta, Anthropic, OpenAI і Google.

Ще одним аспектом небезпеки є застосування ШІ у військових конфліктах. Поширення повідомлень про використання автономних дронів у конфліктах наприклад під час війни Росії проти України викликало занепокоєння у Тюрка. Ця зброя приймає рішення щодо застосування смертоносної сили без участі людини. Він виступив за термінову заборону такої зброї.

Тюрк також торкнувся ситуації в глобальному масштабі, загострюючи увагу на тому, що нині понад 60 збройних конфліктів тривають по всьому світу — найбільша кількість із часів Другої світової війни. Особливо він занепокоєний ескалацією між США та Іраном і наслідками цього для регіону. Він закликав міжнародне співтовариство посилити дотримання міжнародного права та відповідальність за порушення прав людини.

За словами Тюрка, важливо запобігти неконтрольованому розвитку технологій ШІ, аби убезпечити критичну інфраструктуру та зберегти інформаційний простір і демократичні інституції. Його заклик до співпраці держав і компаній містить вимогу запровадити незалежний контроль і встановити чіткі рамки для подальшого розвитку цих технологій.