Компания Meta разрабатывает новую большую языковую модель (LLM), которая составит конкуренцию ChatGPT от фирмы OpenAI. Об этом сообщает WSJ со ссылкой на свои источники.
Предполагается, что она будет «в несколько раз» мощнее, чем Llama 2. Напомним, эту LLM разработчик представил в июле 2023 года.
По данным издания, обучение модели начнется в первых месяцах 2024 года. После этого потребуется еще какое-то время на подготовку, но, вероятно, продукт выйдет на рынок до 2025 года, отметили в WSJ.
Источники в компании заявили, что Meta уже активно продвигает проект. В частности, она планирует заказать еще больше чипов Nvidia H100 для создания дополнительных центров обработки данных.
Напомним, модель Llama 2 обучена с учетом 70 млрд параметров. Таких данных по флагманской ChatGPT 4 нет. По разным оценкам экспертов, в этом случае речь идет об 1,5 трлн параметров.
Ранее мы о том, что Meta планирует выпуск коммерческой версии своей LLM. Однако, по данным источников издания, новое решение будет с открытым исходным кодом.
Примечательно, в августе 2023 года пользовательский трафик в приложении ChatGPT на 3%. И это не первое падение за прошедшие месяцы.
