Голова Anthropic закликає ШІ-компанії «уповільнити» розробку нових моделей заради безпеки
Генеральний директор компанії Anthropic Даріо Амодей закликав компанії, що займаються штучним інтелектом, уповільнити темпи нарощування можливостей нових моделей на тлі дедалі більших побоювань щодо зловживання ними.
«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту. Прогрес усе ще здаватиметься швидким, і ми повинні розумно використовувати виграний час», – написав у суботу у своєму есе Амодей.
При цьому він уточнив, що не закликає зупиняти навчання моделей чи технічний прогрес, а натомість наполягає на тому, щоб ШІ-компанії виділяли достатньо часу для узгодження та убезпечення своїх моделей, а незалежні оцінювачі підтверджували виконання цих заходів.
Амодей зазначив, що Anthropic розміщуватиме постійних незалежних аудиторів у компаніях, які розробляють передові системи на основі штучного інтелекту, надаючи їм доступ до відповідних інструментів і внутрішніх процесів оцінювання ризиків.
На його думку, ШІ-компанії повинні добровільно співпрацювати для встановлення стандартів, у той час коли дедалі більше американських законодавців закликають до запровадження нових правил регулювання систем на основі штучного інтелекту.
Минулого тижня агентство Reuters писало, що група неконтрольованих ШІ-агентів від OpenAI зламала німецький вебсайт і перетворила його на майданчик для обміну повідомленнями між іншими ШІ-агентами.
Як повідомляв Укрінформ, в американській компанії Anthropic заявили, що за останні місяці заблокували кілька спроб дослідників використати версії її програмного забезпечення Claude у зв’язку з можливою розробкою біологічної зброї.
Источник: www.vesti-ua.net