Когда локальные LLM на вашем ноутбуке стоят того, чтобы с ними возиться
В пути каждого разработчика наступает момент, когда они осознают, что платят провайдерам облачных услуг за то, чтобы те думали за них. Если вы ловили себя на том, что вглядываетесь в ежемесячные счета за API, или опасаетесь отправлять фрагменты своего кода на сторонние серверы, возможно, вы задаётесь вопросом: могу ли я на самом деле запустить эти модели ИИ на своём ноутбуке, не расплавив его? А главное — стоит ли мне это делать?...