- Даниэла Амодеи, сооснователь и президент Anthropic, заявила, что есть «ограниченные доказательства» того, что модель Claude иногда испытывает беспокойство или страх.
- Она подчеркнула необходимость более глубокого изучения состояний «под поверхностью» генеративного ИИ, предупредив, что непонятные факторы могут привести к непредсказуемому поведению.
- Anthropic в настоящее время оценивается в 380 миллиардов долларов (около 533 миллиардов австралийских долларов) и, по прогнозам, может стать первой прибыльной ИИ-компанией, обойдя OpenAI благодаря корпоративным клиентам, предпочитающим ориентацию на безопасность.
- Однако на этой неделе компания смягчила свою Политику ответственного масштабирования: вместо обязательства приостановить разработку при риске катастрофы, они остановятся только в том случае, если будут иметь значительное преимущество перед конкурентами, такими как Google (Gemini) и xAI.
- Напряженность в отношениях с Пентагоном растет, так как Anthropic запрещает использование Claude для полностью автономного оружия и внутренней слежки; министр обороны Пит Хегсет, по сообщениям, угрожает сослаться на законы времен холодной войны, чтобы принудить к использованию.
- Генеральный директор Дарио Амодеи участвовал в диалоге с целью обеспечения поддержки национальной безопасности, но в рамках ответственного использования.
- Давление на рынок труда растет: WiseTech уволила 2000 сотрудников; Commonwealth Bank сократил 300 позиций на фоне волны внедрения ИИ.
- Даже в самой Anthropic руководство обсуждает, стоит ли продолжать нанимать программистов, поскольку ИИ меняет структуру основных секторов экономики.
📌 Президент Anthropic признает, что у Claude есть признаки «беспокойства», что вызывает вопросы о неизученных механизмах генеративного ИИ. Несмотря на оценку в 380 миллиардов долларов и скорую прибыльность, компания ослабила обязательства по безопасности на фоне конкуренции и споров с Пентагоном. Параллельно волна увольнений от 300 до 2000 человек в крупных компаниях показывает, что влияние на занятость становится реальным и тревожным.
