utf


До сих пор время от времени сталкиваюсь с проблемами отображения текста в следствии зоопарка кодировок. Все проблемы решаются поиском в интернете и перебором различных способов, пока не находишь нужного результата! Мне это надоело и я решил собрать в oдном мecтe проверенные решения...

Начнём с кодировок в названиях файлов

Если нам нужно перекодировать раздел с виндовыми файлами в правильную кодировку, то необходимо выполнить следующее:

convmv -r -f cp1251 -t utf-8 --notest


Без параметра --notest процесс пройдёт лишь в тестовом режиме. С этим же параметром все изменения будут записаны на файловую систему. Сам convmv должен быть предварительно установлен.

Иногда бывают ситуации, когда нужно избавиться от названий файлов, в которых присутствует кириллица. Тут тоже всё просто. Создаём файл со следующим содержанием и выполняем его:

#!/bin/bash<br># Перекодирует рекурсивно в текущем каталоге имена<br># файлов и каталогов в транслит.<br><br>shopt -s nullglob<br><br>for NAME in *.mp3 ; do<br>  TRS=`echo $NAME | sed "y/абвгдезийклмнопрстуфхцы/abvgdezijklmnoprstufxcy/"`<br>  TRS=`echo $TRS  | sed "y/АБВГДЕЗИЙКЛМНОПРСТУФХЦЫ/ABVGDEZIJKLMNOPRSTUFXCY/"`<br>  TRS=${TRS//ч/ch};<br>  TRS=${TRS//Ч/CH} TRS=${TRS//ш/sh};<br>  TRS=${TRS//Ш/SH} TRS=${TRS//ё/jo};<br>  TRS=${TRS//Ё/JO} TRS=${TRS//ж/zh};<br>  TRS=${TRS//Ж/ZH} TRS=${TRS//щ/sh\'};<br>  TRS=${TRS//Щ/SH\'} TRS=${TRS//э/je};<br>  TRS=${TRS//Э/JE} TRS=${TRS//ю/ju};<br>  TRS=${TRS//Ю/JU} TRS=${TRS//я/ja};<br>  TRS=${TRS//Я/JA} TRS=${TRS//ъ/\`};<br>  TRS=${TRS//ъ\`} TRS=${TRS//ь/\'};<br>  TRS=${TRS//Ь/\'}<br>  if [[ `file -b "$NAME"` == directory ]]; then<br>    mv -v "$NAME" "$TRS"<br>    cd "$TRS"<br>    "$0"<br>    cd ..<br>  else<br>    mv -v "$NAME" "$TRS"<br>  fi<br>done


Всё просто.

А вот ещё задача. Ну просто огромная куча текстовых файлов в какой-то кодировке. Допустим, в той же cp1251. А нам нужно всё это добро конвертировать во всё ту же незаменимую UTF-8. Из всего найденного мне понравился такой подход:

time find /www/server/ -name "*.html" -exec iconv -f=CP1251 -t=UTF-8 {} -o {} \; -exec echo {} \;


или

find . | while read i; do iconv -f WINDOWS-1251 -t UTF-8 "$i" >tmp; mv tmp "$i"; done


Будут конвертированы все файлы во всех вложенных директориях. Только учтите, что и бинарные файлы (например, картинки) тоже будут "конвертированы", то есть повреждены. Поэтому, если у вас всё вперемешку, то нужно из поиска их исключить. Как? После "find . | " дописать что-то вроде:

grep -v png | grep -v jpg | grep -v gif |


То есть, начало будет такое:

find . | grep -v png | grep -v jpg | grep -v gif | while read i; do ......


Или, если конвертировать в юникод нужно только php-файлы, то достаточно сделать так:

find . -name '*.php' | while read i; do iconv -f WINDOWS-1251 -t UTF-8 "$i" \<br> >tmp; mv tmp "$i"; done


Где такое могло понадобится? А, например, старый сайт был создан ещё тогда, когда многие про юникод ничего не знали. Следовательно, конвертирование - это ещё не всё. Нужно найти все упоминание корня всех проблем - windows-1251. Ну, тут проще простого:

grep -ir windows-1251 .


Точка в конце означает, что искать команда будет с текущей директории. Опции же -ir помогают нам вывести на экран все значения не зависимо от регистра, притом поиск будет рекурсивным (во всех вложенных директориях).

Увидели результат. Допустим, у нас искомое было в файлах типа *.php. Хорошо, тогда мы в них и произведём замену:

find . -name ".php" -exec sed -i 's/windows-1251/UTF-8/g' {} \;


Теперь ещё раз проверяем, достигли ли мы успеха:

grep -ir windows-1251 .


Всё, в этом случае больше ничего не должно вывестись на экран. Только, если не будут найдены совпадения в других файлах, которые не *.php. Тогда придётся повторить операцию и с ними. После чего можно тестировать свой старый сайт =)

Что ещё часто нам режет глаза обилием иероглифов? Конечно же теги в mp3-файлах. До сих пор находятся умельцы, которые их сохраняют в cp1251. Кривые руки таких творцов не выпрямишь, зато ошибки оных легко исправить! Устанавливаем пакет python-mutagen и приступаем к преобразованию:

find -iname '*.mp3' -print0 | xargs -0 mid3iconv -eCP1251 --remove-v1


Ещё вариант, но не использующий xargs:

find . -iname “*.mp3″ -exec mid3iconv -e CP1251 -d –remove-v1 {} ;


Вырезаются все теги id3v1, прописанные в cp1251 кодировке.

Есть ещё некий Tag2Utf cyrillic mp3-tags decoder - это скрипт на Python, который рекурсивно сканирует директорию, в которой запущен, и конвертирует все теги содержащие cp1251 и koi8-r в UTF-8. Для работы требует python-eyed3.

Для работы с тегами есть хорошая графическая программа EasyTag. Как с ней работать, разобраться несложно ;)