DotNet&More #175: Смотрим на локальные LLM и не только

Лучше один раз посмотреть на локальные LLM чем один раз поговорить о них.

Спасибо всем, кто нас слушает. Ждем Ваши комментарии.

Музыка из выпуска: 

https://artists.landr.com/056870627229

https://t.me/angry_programmer_screams

Весь плейлист курса "Kubernetes для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3SrrmOzzdBBsdeQ0YVR3Fc7

Бесплатный открытый курс "Rust для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3S2iE00WFPNTzKAARURZW1Z

Shownotes: 

00:00:00 Вступление

00:02:00 Требования к железу

00:12:00 Как работать с Ollama

00:21:00 Запускаем маленькую модель: lfm

00:31:50 Подключаем агент к локальной модели

00:37:50 Задача №1: Refactoring

00:46:00 Запускаем Qwen 3.5

01:01:00 Как размер контекста влияет на обьем памяти

01:06:00 Пытаемся вытянуть lfm

01:17:00 Запускаем IBM Granite

01:27:00 Запускаем Qwen 3.6 (не влезает)

01:34:30 Задача №2: Leetcode

01:46:00 Провал lfm

01:47:30 Триумф lfm

01:57:00 Давид (lfm) против Голиафа (qwen 3.6)

02:09:30 Задача №3: Html

02:10:00 Запускаем gemma

Ссылки:

https://ollama.com/ : Ollama

https://www.3blue1brown.com/lessons/mini-llm/ : Как работает LLM 

https://www.youtube.com/watch?v=eMlx5fFNoYc : Внимание в LLM 

https://github.com/upstash/context7 : context7

Видео: https://youtube.com/live/-cTJA9rFcsQ

Слушайте все выпуски: https://dotnetmore.mave.digital

YouTube: https://www.youtube.com/playlist?list=PLbxr_aGL4q3R6kfpa7Q8biS11T56cNMf5

Twitch: https://www.twitch.tv/dotnetmore

Обсуждайте:

Telegram: https://t.me/dotnetmore_chat

Следите за новостями:

– Twitter: https://twitter.com/dotnetmore

– Telegram channel: https://t.me/dotnetmore

Copyright: https://creativecommons.org/licenses/by-sa/4.0/