Очень интересное предложение, даже скорее требование, выдвинули несколько бывших сотрудников OpenAI и Google Deepmind. Хорошо, если бы так и было. Маловероятно.
Они подписали открытое письмо с требованием разрешить сотрудникам, занимающимся ИИ, особенно трущихся близ AGI, критиковать политику компании и высказывать свои опасения и предупреждения по вопросам безопасности.
Вот это хорошая цитата из письма:
“Компании, работающие с искусственным интеллектом, владеют значительным объёмом непубличной информации о возможностях и ограничениях своих систем, адекватности мер защиты и уровнях риска различных видов вреда. Однако в настоящее время они имеют лишь слабые обязательства по предоставлению части этой информации государственным органам и никакие — перед гражданским обществом. Мы не считаем, что на них можно полагаться в плане добровольного предоставления этой информации.”
Не про технологии или другие технические секреты компании, но про адекватность норм безопасности.
В данный момент под угрозой финансовых наказаний находятся не только текущие, но и бывшие сотрудники компаний, которые владеют акциями. Платить часть зарплаты акциями - это нормальная практика, но к этому всегда прилагается ряд условий и, очевидно, все бывшие сотрудники, которые активно что-то прокидывают про безопасность, часть этих акций теряют.
А вообще, как здорово было бы, если бы культура открытой критики была частью корпоративной этики 😞
Полное письмо: https://righttowarn.ai/
Они подписали открытое письмо с требованием разрешить сотрудникам, занимающимся ИИ, особенно трущихся близ AGI, критиковать политику компании и высказывать свои опасения и предупреждения по вопросам безопасности.
Вот это хорошая цитата из письма:
“Компании, работающие с искусственным интеллектом, владеют значительным объёмом непубличной информации о возможностях и ограничениях своих систем, адекватности мер защиты и уровнях риска различных видов вреда. Однако в настоящее время они имеют лишь слабые обязательства по предоставлению части этой информации государственным органам и никакие — перед гражданским обществом. Мы не считаем, что на них можно полагаться в плане добровольного предоставления этой информации.”
Не про технологии или другие технические секреты компании, но про адекватность норм безопасности.
В данный момент под угрозой финансовых наказаний находятся не только текущие, но и бывшие сотрудники компаний, которые владеют акциями. Платить часть зарплаты акциями - это нормальная практика, но к этому всегда прилагается ряд условий и, очевидно, все бывшие сотрудники, которые активно что-то прокидывают про безопасность, часть этих акций теряют.
А вообще, как здорово было бы, если бы культура открытой критики была частью корпоративной этики 😞
Полное письмо: https://righttowarn.ai/