Генеральный директор Goldman Sachs Дэвид Соломон представил принципы управления ИИ, согласно которым ответственность за работу систем должны нести конкретные лица, принимающие решения. Рекомендации включают регулярное стресс-тестирование моделей, оценку рисков от разработчиков и поощрение сотрудников, сообщающих об уязвимостях в работе технологий.
Данный подход предназначен как для создателей ИИ, так и для компаний, внедряющих эти решения. Соломон подчеркивает, что развитие технологий должно опираться на доверие и подотчетность. В банке также обеспокоены возможной потерей экспертных знаний: руководство опасается, что чрезмерная зависимость от ИИ ограничит возможности обучения младших трейдеров.
Goldman Sachs продолжает интеграцию ИИ в свои бизнес-процессы. Еще в феврале банк начал использовать автономных агентов на базе модели Claude от Anthropic для автоматизации бухгалтерского учета, комплаенса и операционных финансов. В течение шести месяцев инженеры Anthropic работали совместно с командами банка над созданием инструментов для выполнения сложных задач.
На фоне дискуссий о регулировании отрасли, законодатели США разрабатывают новые рамки для контроля ИИ. Параллельно компании OpenAI и Anthropic ведут переговоры об ограничении доступа внешних аудиторов к данным, полученным в ходе оценки их лабораторий, несмотря на ранее достигнутые договоренности о добровольном участии в программах проверки.
