| --- |
| language: |
| - ru |
| license: mit |
| task_categories: |
| - text-generation |
| tags: |
| - dpo |
| - preference |
| - russian-literature |
| - dostoevsky |
| - normalized |
| size_categories: |
| - 1K<n<10K |
| --- |
| |
| # dostoevsky_frontier_3k_normalized |
| |
| Нормализованная версия [0x7o/dostoevsky_frontier_3k](https://huggingface.co/datasets/0x7o/dostoevsky_frontier_3k). |
| |
| ## Нормализация |
| |
| Устранены пунктуационные shortcut-ы, позволяющие модели различать chosen/rejected |
| по артефактам форматирования вместо стиля. |
| |
| ### Общие (chosen + rejected) |
| - `ё` → `е` по словарю (книги не используют ё, AI всегда использует — 87.8% accuracy) |
| - `\xa0` (неразрывный пробел) → обычный пробел |
| - `…` (U+2026) → `...` (три точки) |
| - `–` (en dash) → `—` (em dash) |
| - `!..` → `!...`, `?..` → `?...` |
| - `"..."` → `«...»`, `„..."` → `«...»` |
| |
| ### Chosen (книжные артефакты) |
| - `^- ` (диалог с дефисом) → `^— ` (em dash) |
| |
| ### Rejected (AI-артефакты) |
| - `# заголовки` markdown → удалены |
| - `---` горизонтальные линии → удалены |
| - `**bold**`, `*italic*` → снято форматирование |
| |
| ## Формат |
| |
| ```json |
| { |
| "prompt": "Напишите отрывок в стиле ...", |
| "chosen": [ |
| {"role": "user", "content": "..."}, |
| {"role": "assistant", "content": "..."} |
| ], |
| "rejected": [ |
| {"role": "user", "content": "..."}, |
| {"role": "assistant", "content": "..."} |
| ] |
| } |
| ``` |
| |
| ## Источник |
| |
| [0x7o/dostoevsky_frontier_3k](https://huggingface.co/datasets/0x7o/dostoevsky_frontier_3k) |
| |
