Gartner: ИИ-галлюцинации все еще реальная опасность
В настоящее время, как подсчитала аналитическая компания Gartner, генеративный ИИ в реальности использует только 5% мощности ЦОДов. Эксперты Gartner полагают, что для того, чтобы ИИ-решения развивались дальше, разработчикам придется оптимизировать код, находя элегантные решения, простое наращивание вычислительных мощностей — неоптимальный путь.
При этом генеративный ИИ в настоящее время на слуху, но это верхушка айсберга, в бизнес-кейсах он встречается в 5% случаев и занимает те же 5% мощностей ЦОДов.
Эксперты Gartner также подчеркивают, что в 2022-2024 году многие «забыли» о деньгах, сосредоточившись на изучении возможностей искусственного интеллекта, но они вспомнят.
Из интересных кейсов, о которых упоминают эксперты Gartner – ИИ-приложение, которое анализирует логи файерволла и использует генеративный ИИ для выдачи рекомендаций о действиях, которые улучшают безопасность. Также ИИ часто применяется для оптимизации ТОиР, прогнозирует, где тонко и где может в фигуральном смысле слова порваться.
Тем не менее, в Gartner предупреждают, что в ряде задач ИИ вообще не стоит использовать, ибо «в ИИ есть слабые места, но вы не знаете, где они, это как швейцарский сыр, вы знаете, что там есть пустоты, но пока не разрежете, не выясните, где именно они находятся».
В Gartner также подчернули, что доля ИИ-галлюцинаций, когда приложение выдает ответ, не базирующийся на фактах, упала до 1-2%. Но если в каком-либо производственном процессе нужны миллионы решений — это уже почти катастрофа.
К слову, ранее IT-World сообщал о том, что компания Safe Superintelligence (SSI), недавно основанная соучредителем OpenAI Ильей Суцкевером, привлекла $1 млрд для разработки «безопасных систем искусственного интеллекта, которые намного превосходят человеческие возможности».
