«Я ухожу из OpenA. Время проб и ошибок прошло»: специалист по безопасности критикует создателей ChatGPT
iXBT.com ·
Бывший сотрудник OpenAI, занимавшийся вопросами безопасности, обвинил компанию в чрезмерном стремлении к разработке все более мощного искусственного интеллекта, утверждая, что отрасль полагается на метод проб и ошибок именно в тот момент, когда последствия неудач становятся все более серьезными.
Бывший сотрудник OpenAI, занимавшийся вопросами безопасности, обвинил компанию в чрезмерном стремлении к разработке все более мощного искусственного интеллекта, утверждая, что отрасль полагается на метод проб и ошибок именно в тот момент, когда последствия неудач становятся все более серьезными.
Дэвид Робинсон, проработавший в OpenAI три с половиной года и участвовавший в разработке системы обеспечения готовности компании, а также курировавший отчеты о безопасности 12 запусков перспективных моделей, недавно подал в отставку и теперь публично критикует подход компании.
«Время проб и ошибок прошло, — написал Робинсон. — Я ухожу из OpenAI, потому что у них сломана корпоративная культура». Робинсон утверждает, что компании, занимающиеся искусственным интеллектом, включая OpenAI, «не проявляют достаточной осторожности» и должны уделять больше внимания экспертизе в области безопасности и исследованиям, прежде чем разрабатывать более совершенные системы.
Его уход усиливает растущую дискуссию в индустрии ИИ о том, смогут ли компании, разрабатывающие все более автономные системы, поддерживать свои методы обеспечения безопасности на уровне, опережающем технологический прогресс.
OpenAI и ее конкурент Anthropic подверглись критике после недавних инцидентов, когда системы ИИ вели себя непредсказуемо или системы безопасности давали сбои.