$GOOGL везде! 👇

Google раскрывает алгоритмы для решения проблем памяти ИИ; акции производителей памяти и хранилища падают
Google (GOOG)(GOOGL) сегодня представила набор новых алгоритмов, разработанных для сокращения объема памяти, необходимой для работы больших языковых моделей и систем векторного поиска.
Акции крупных поставщиков памяти и хранилища упали во время торговли в начале среды. Micron Technology (MU) упала на 4%, Western Digital снизилась на 4,4%, Seagate Technology (STX) упала на 5,6%, а Sandisk (SNDK) упала на 6,5%. Sandisk сегодня объявила, что заключила соглашение о частном размещении на инвестирование акционного капитала в компанию полупроводников Nanya Technology.
Алгоритмы, представленные Google, включают TurboQuant, Quantized Johnson-Lindenstrauss и PolarQuant. TurboQuant — это алгоритм сжатия, который оптимально решает проблему накладных расходов памяти при векторном квантовании.
Математический метод, известный как преобразование Johnson-Lindenstrauss, сжимает сложные многомерные данные при сохранении существенных расстояний и взаимосвязей между точками данных. Этот алгоритм создает высокоскоростную сокращенную запись, которая не требует накладных расходов памяти.
Наконец, PolarQuant решает проблему накладных расходов памяти, используя полярные координаты. Это позволяет LLM пропустить этап нормализации данных, поскольку она отображает данные на фиксированную, предсказуемую "круговую" сетку, где границы уже известны.
"По мере того, как ИИ становится более интегрированным во все продукты, от LLM до семантического поиска, эта работа в области фундаментального векторного квантования будет иметь критическое значение, чем когда-либо", — сказали ученый-исследователь Google Амир Занди и Ваhаб Миррокни, вице-президент и Google Fellow, в своем блоге.
Google планирует представить TurboQuant на Международной конференции по машинному обучению в Рио-де-Жанейро в апреле.