RikiyaT/lm_understand-logs
ПОЛНЫЕ ЛОГИ ЭКСПЕРИМЕНТОВ LLM С ВЕСАМИ НЕЙРОСЕТЕЙ
Полные логи 8 экспериментов из блога о способности LLM понимать и писать веса нейросетей. Включает промпты, ответы модели, рассуждения, код и оценки для задач идентификации игр, генерации, исправления и создания сетей с нуля.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- 8 экспериментов: от идентификации игр до написания сети для Go
- Полные диалоги с gpt-6-astra: промпты, рассуждения, код, выводы
- Аудит 1125 ходов: подтверждена работа без встроенных инструментов
- Песочница Python для экспериментов 3, 6, 7, 8 с bubblewrap
// РАЗБОР: КАК ЭТО РАБОТАЕТ
Репозиторий содержит структурированные логи каждого из восьми экспериментов, описанных в блог-посте. Каждая папка эксперимента включает README с соответствием запусков таблицам поста, а также файлы prompt.txt, events.jsonl, answer.md и tool_calls.jsonl. Модель gpt-6-astra вызывалась через Codex CLI с заданным уровнем reasoning effort (high, xhigh или max), при этом все встроенные инструменты Codex были отключены через конфигурацию harness/codex_config.toml.
Внутри — 1125 ходов диалога, каждый пройден аудитом на отсутствие вызовов инструментов (поле audit.tool_free). Для экспериментов 3, 6, 7 и 8 модель писала код на Python, который выполнялся в изолированной песочнице harness/sandbox.py (bubblewrap, без сети, с таймаутом). Логи фиксируют токены, рассуждения, код и его вывод, что позволяет воспроизвести путь от промпта до итоговых весов.
Ограничения: представлены только запуски, вошедшие в пост; пробные итерации ранних промптов опущены. Для работы с логами не требуется запускать модели — это статический датасет. Зависимости для песочницы описаны в harness/, но сам репозиторий не содержит скриптов воспроизведения экспериментов, только их артефакты.
// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ
Кому пригодится: исследователям LLM, изучающим weight space programming и интерпретируемость весов
- Изучить, как LLM рассуждает о весах нейросетей без прямого прохода
- Воспроизвести цепочку промптов для задач weight space programming
- Проанализировать паттерны ошибок модели при редактировании весов
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram