08:40 / 5 мая, 2022
OpenAIGitHubCopilotутечка данныхискусственный интеллект
Copilot на базе OpenAI запоминает конфиденциальные общедоступные данные.
По словам одного из разработчиков, инструмент для написания кода на основе OpenAI от GitHub Copilot предложил закрытые ключи от реальных криптовалютных кошельков. Программист смог вычислить реальный аккаунт, который связан с закрытым ключом.
«Это было довольно шокирующим для меня», — сказал разработчик . «Закрытый ключ подобен замку к вашим сбережениям: если произойдет утечка, ваши активы могут быть украдены».
Он поделился с журналистами закрытым ключом, сгенерированным Copilot, и связанным адресом, после чего обработал две транзакции: 0,5 ETH были отправлены на адрес другого кошелька и 0,48 ETH отправил с адреса обратно на тот же кошелек.
Другой пользователь предположил, что Copilot извлек информацию из открытых GitHub репозиториев. ИИ-помощник запомнил общедоступные данные и при правильном запросе вывел «их на поверхность», добавил он.
По всей видимости, закрытый ключ действительно отображался в общедоступных репозиториях GitHub. Программисты предположили, что его создали в целях тестирования. Кошелек активен и использовался для отправки и получения реальных токенов.
Другим разработчикам удалось найти закрытые ключи, связанные с другими криптовалютными кошельками, некоторые из которых содержали небольшую сумму денег.
В будущем мы будем чаще сталкиваться с подобными инцидентами, когда конфиденциальная информация попадает в обучающую модель, а затем ИИ раскрывает ее.
Ранее Ученые из инженерной школой Тандон Нью-Йоркского университета проверили систему на базе искусственного интеллекта GitHub Copilot с точки зрения безопасности и обнаружили , что примерно в 40% случаев сгенерированный помощником по программированию код в лучшем случае содержит ошибки, а в худшем — потенциально уязвим к атакам.
От оно што
Подробнее:
OpenAIGitHubCopilotутечка данныхискусственный интеллект
Copilot на базе OpenAI запоминает конфиденциальные общедоступные данные.
По словам одного из разработчиков, инструмент для написания кода на основе OpenAI от GitHub Copilot предложил закрытые ключи от реальных криптовалютных кошельков. Программист смог вычислить реальный аккаунт, который связан с закрытым ключом.
«Это было довольно шокирующим для меня», — сказал разработчик . «Закрытый ключ подобен замку к вашим сбережениям: если произойдет утечка, ваши активы могут быть украдены».
Он поделился с журналистами закрытым ключом, сгенерированным Copilot, и связанным адресом, после чего обработал две транзакции: 0,5 ETH были отправлены на адрес другого кошелька и 0,48 ETH отправил с адреса обратно на тот же кошелек.
Другой пользователь предположил, что Copilot извлек информацию из открытых GitHub репозиториев. ИИ-помощник запомнил общедоступные данные и при правильном запросе вывел «их на поверхность», добавил он.
По всей видимости, закрытый ключ действительно отображался в общедоступных репозиториях GitHub. Программисты предположили, что его создали в целях тестирования. Кошелек активен и использовался для отправки и получения реальных токенов.
Другим разработчикам удалось найти закрытые ключи, связанные с другими криптовалютными кошельками, некоторые из которых содержали небольшую сумму денег.
В будущем мы будем чаще сталкиваться с подобными инцидентами, когда конфиденциальная информация попадает в обучающую модель, а затем ИИ раскрывает ее.
Ранее Ученые из инженерной школой Тандон Нью-Йоркского университета проверили систему на базе искусственного интеллекта GitHub Copilot с точки зрения безопасности и обнаружили , что примерно в 40% случаев сгенерированный помощником по программированию код в лучшем случае содержит ошибки, а в худшем — потенциально уязвим к атакам.
От оно што
Подробнее:
