Фото: cottonbro studio.
Творці штучного інтелекту від американських компаній-розробників OpenAI та Anthropic кажуть, що він може вийти з-під контролю. Вони розглядають можливість зниження темпів розвитку ШІ. Дослідники говорять про ризики для людства, які вже не є просто прогнозами, а цілковитою реальністю.
Про це повідомили у матеріалі BBC.
Дослідник Еван Хубінгер вважає, що ШІ зможе знищити всіх людей протягом наступного десятиліття. Ймовірність перевищує 10%. Таке може трапитися, якщо у майбутньому розвинуться потужні технологій.
Сучасні розробники намагаються створити штучний надінтелект. Тобто технологію, що інтелектуально перевершуватиме людей. Надінтелектуальні системи зможуть аналізувати, планувати та приймати складні рішення.
Компанії OpenAI та Anthropic кажуть, що прагнуть розвивати такі технології тільки на користь людства.
Але експерти обговорюють кілька загрозливих сценарії розвитку:
– втрата контролю через самовдосконалення ШІ;
Даріо Амодеї керівник Anthropic зауважив, що ШІ розвивається швидше, ніж очікувалось. Системи здатні створювати наступні покоління штучного інтелекту. Тобто ШІ може самовдосконалюватися. Тож поступово люди втрачатимуть контроль.
– кібератаки;
Штучний інтелект можуть використати для автоматизації та зловмисного використання.
– поширення реалістичних дипфеків;
ШІ стоїть на межі генерації зображень непогоджених дипфейків. Це посилить дезінформацію та сприятиме розвитку шахрайства.
Тож “за” вповільнення розвитку ШІ виступає не лише керівники OpenAI та Anthropic, а й очільник SpaceX Ілон Маск.
Натомість президент Америки Дональд Трамп виступає проти вповільнення.
"Ми випереджаємо Китай у сфері ШІ... і, відверто кажучи, я хочу, щоб так і залишалося, тому що той, хто переможе у сфері ШІ, переможе", – коментує Дональд Трамп.
Китай, як і Трамп, виступає за посилення глобального управління штучним інтелектом.
Тож питання: чи стане ШІ загрозою для людства, – досі залишається без відповіді.
Molbuk.ua раніше публікував історію австралійця. ШІ-помічник, щоб записати чоловіка на тренування, зламав сайт спортзалу.
Читайте новини "МБ" у Google News | Facebook | Telegram | Viber | Instagram
