Добавь сайт в закладки! Инструкция по ссылке.
Глава корпорации против централизованного контроля над искусственным интеллектом, возвращает открытый исходный код и передаёт решение о выпуске алгоритмов совету директоров
Компания Meta* 10 августа представила манифест Марка Цукерберга под заголовком «Будущее принадлежит всем: путь к позитивному будущему ИИ» ("The Future is for Everyone: The Path to a Positive AI Future"). В этом документе глава компании выразил протест против сосредоточения контроля над будущим суперинтеллектом (AGI, гипотетическим искусственным интеллектом, превосходящим человеческие способности) в руках ограниченного числа институтов или правительств.
В манифесте выделяются три основных принципа: расширение возможностей каждого человека, инновации как главная цель суперинтеллекта и баланс сил как основа безопасности. Цукерберг отметил, что пользователи должны нести ответственность за использование технологий, а не подчиняться централизованным ограничениям. Он также выступил в защиту дистилляции моделей — процесса обучения более компактных нейросетей на основе ответов крупных и мощных алгоритмов — утверждая, что разработчики должны иметь возможность учиться на основе наблюдаемых результатов.
Для контроля безопасности Meta* внедрила совет директоров в систему одобрения релизов: теперь решение о выпуске моделей будет приниматься на основании утверждённых советом критериев. В области государственного регулирования глава компании призвал к раннему и активному сотрудничеству между лабораториями ИИ и властями, вместо строгих бюрократических проверок с жесткими сроками.
Meta* также анонсировала возобновление выпуска моделей с открытым исходным кодом и создание фонда «Будущее принадлежит всем» ("Future Is For Everyone Fund") объёмом $1 млрд для поддержки сообществ, находящихся рядом с центрами обработки данных компании.
Эта финансовая инициатива направлена на снижение нагрузки на регионы расположения дата-центров, которые, по утверждению компании, проектируются с высокой эффективностью расхода воды. Однако публикация вызвала обсуждение в специализированных изданиях: в 404 Media и Gizmodo отметили, что концепция свободного распространения моделей не отвечает на риски злоупотребления автономными агентами и фактически защищает бизнес-модель самой Meta* по распространению открытых весов на фоне растущих опасений экспертов по безопасности.
Подход с открытым доступом к весам нейросетей расширяет возможности для локального запуска, точной настройки и внешнего аудита алгоритмов независимыми специалистами. Тем не менее, доступность исходных параметров усложняет отзыв опасных функций и контроль за использованием ИИ после его загрузки на пользовательское оборудование. Манифест зафиксировал явный конфликт двух концепций развития отрасли: закрытых экосистем с жёстким централизованным контролем и открытой модели, которая перекладывает ответственность на конечного пользователя и регулирующие органы.
* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ
ИсточникПоделись видео:
