---
language:
- ru
license: mit
task_categories:
- text-generation
tags:
- dpo
- preference
- russian-literature
- dostoevsky
- normalized
size_categories:
- 1K<n<10K
---

# dostoevsky_frontier_3k_normalized

Нормализованная версия [0x7o/dostoevsky_frontier_3k](https://huggingface.co/datasets/0x7o/dostoevsky_frontier_3k).

## Нормализация

Устранены пунктуационные shortcut-ы, позволяющие модели различать chosen/rejected
по артефактам форматирования вместо стиля.

### Общие (chosen + rejected)
- `ё` → `е` по словарю (книги не используют ё, AI всегда использует — 87.8% accuracy)
- `\xa0` (неразрывный пробел) → обычный пробел
- `…` (U+2026) → `...` (три точки)
- `–` (en dash) → `—` (em dash)
- `!..` → `!...`, `?..` → `?...`
- `"..."` → `«...»`, `„..."` → `«...»`

### Chosen (книжные артефакты)
- `^- ` (диалог с дефисом) → `^— ` (em dash)

### Rejected (AI-артефакты)
- `# заголовки` markdown → удалены
- `---` горизонтальные линии → удалены
- `**bold**`, `*italic*` → снято форматирование

## Формат

```json
{
  "prompt": "Напишите отрывок в стиле ...",
  "chosen": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ],
  "rejected": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ]
}
```

## Источник

[0x7o/dostoevsky_frontier_3k](https://huggingface.co/datasets/0x7o/dostoevsky_frontier_3k)