Міська влада Сан-Франциско вимагає від Apple та Google видалити зі своїх магазинів застосунків десятки AI-сервісів, які можуть цифровим способом «роздягати» людей на фотографіях. Такі програми використовують штучний інтелект для створення фейкових інтимних зображень без згоди людини, а їхнє поширення може порушувати законодавство Каліфорнії, повідомляє techcrunch.com.
Міський прокурор Девід Чіу заявив, що обидві компанії були неодноразово попереджені про наявність таких застосунків, але продовжували розміщувати їх і отримувати прибуток від покупок усередині сервісів. Згідно із законами штату, допомога у створенні або поширенні інтимних дипфейків може призвести до цивільної відповідальності, а жертви мають право подавати позови.
Підставою для претензій стали звіти організації Tech Transparency Project, яка виявила десятки застосунків, що пропонували створення фальшивих інтимних зображень за гроші. У документах також зазначається, що Apple і Google могли заробити мільйони доларів на комісіях від таких сервісів. Компаніям дали 28 днів, щоб відповісти на вимоги міської влади.
У відповідь Apple повідомила, що вже видалила частину застосунків і розпочала блокування акаунтів їхніх розробників, а ще кільком сервісам висунула вимогу усунути порушення правил App Store. Google заявила, що всі згадані в претензії застосунки вже призупинено, а також компанія заблокувала сотні подібних програм і обмежила пошук за запитами, пов’язаними з такими AI-інструментами. Проблема особливо гостро стосується жінок, однак жертвами подібних сервісів може стати будь-хто, чиї фотографії доступні в інтернеті.
