README.md

metadata

language:
  - ru
license: mit
task_categories:
  - text-generation
tags:
  - dpo
  - preference
  - russian-literature
  - dostoevsky
  - normalized
size_categories:
  - 1K<n<10K

dostoevsky_frontier_3k_normalized

Нормализованная версия 0x7o/dostoevsky_frontier_3k.

Нормализация

Устранены пунктуационные shortcut-ы, позволяющие модели различать chosen/rejected по артефактам форматирования вместо стиля.

Общие (chosen + rejected)

• ё → е по словарю (книги не используют ё, AI всегда использует — 87.8% accuracy)
• \xa0 (неразрывный пробел) → обычный пробел
• … (U+2026) → ... (три точки)
• – (en dash) → — (em dash)
• !.. → !..., ?.. → ?...
• "..." → «...», „..." → «...»

Chosen (книжные артефакты)

• ^- (диалог с дефисом) → ^— (em dash)

Rejected (AI-артефакты)

• # заголовки markdown → удалены
• --- горизонтальные линии → удалены
• **bold**, *italic* → снято форматирование

Формат

{
  "prompt": "Напишите отрывок в стиле ...",
  "chosen": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ],
  "rejected": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ]
}

Источник

0x7o/dostoevsky_frontier_3k