Компанія Anthropic вважає, що розробники штучного інтелекту мають заздалегідь узгодити механізм уповільнення або тимчасової зупинки розвитку ШІ-систем. Це буде потрібно, якщо вони почнуть вдосконалювати себе швидше, ніж суспільство зможе їх контролювати.
Читайте также: Василь Малюк Дружина: биография, личная жизнь и профессиональный путь
Про це повідомляє Reuters.
У Anthropic попереджають, що поява систем, здатних самостійно створювати власні вдосконалені версії, може стати одним із найважливіших технологічних проривів в історії.
Водночас така здатність може підвищити ризик втрати людиною контролю над штучним інтелектом.
Ризики в розробці ШІ
Anthropic заявила, що потенційна пауза в розвитку ШІ-моделей має бути скоординованою між кількома великими лабораторіями.
Компанія пропонує заздалегідь визначити:
- умови, за яких може бути запроваджене уповільнення або тимчасова зупинка розробки;
- критерії для відновлення роботи;
- механізми контролю та нагляду за виконанням таких домовленостей.
У компанії наголосили, що одностороння пауза з боку одного розробника матиме обмежений ефект і не покращить загального рівня безпеки.
Як приклад швидкого розвитку ШІ-систем Anthropic навела власний досвід. Станом на травень понад 80% коду, який додавався до кодової бази компанії, було написано її моделлю Claude.
У компанії вважають, що зі зростанням здатності моделей створювати програмне забезпечення особливого значення набувають механізми моніторингу, безпеки та контролю їхньої поведінки.
У найближчі місяці компанія також проведе консультації за участю політиків, науковців, громадських організацій та інших ШІ-розробників.
Серед тем для обговорення — ризики самовдосконалення штучного інтелекту та створення міжнародних механізмів координації у сфері безпеки ШІ.
Читайте также: Анджелина Джоли Діти: подробности о семье и воспитании
Більше про Anthropic
Anthropic — це американська компанія у сфері штучного інтелекту. Її у 2021 році заснували колишні дослідники OpenAI.
Один із головних її продуктів — чатбот Claude. Як зазначають у самій компанії, це перша модель, доступна на трьох найбільших у світі хмарних платформах: Amazon Web Services, Google Cloud і Microsoft Azure.
AWS залишається основним постачальником хмарних послуг і партнером з навчання Anthropic.
У травні 2026 року Anthropic заявила, що в майбутньому планує відкрити публічний доступ до моделей класу Mythos — систем штучного інтелекту, здатних автоматично знаходити критичні вразливості в програмному коді.
Саме цю модель Агентство національної безпеки США (NSA) використовує для власних потреб, попри те що Пентагон раніше включив компанію до списку ризикованих постачальників.
На початку червня Anthropic подала конфіденційну заяву до Комісії з цінних паперів і бірж США для проведення первинного публічного розміщення акцій.
Крім цього, у червні компанія оголосила про створення нової команди AI & Rule of Law («ШІ та верховенство права»). Підрозділ займатиметься дослідженням впливу штучного інтелекту на демократичні інститути, судову систему, вибори та верховенство права.
Читайте также: Памела Андерсон В Молодості: Перші Кроки До Зіркової Кар’єри