Почему я ненавижу пять звёзд

Этот вопрос часто возникает при обсуждении goodbre.ws, а совсем недавно и по поводу recommendable, где при реализации рейтингования выбрана система, основанная на симпатиях и антипатиях, а не на более привычной пятизвездочной шкале оценок. Обычно, я краток и лаконичен: Думаю, что звездная систем рейтингования лукава. Иногда, я немного продвигаюсь в подробностях: Думаю, что звездная систем рейтингования действительно лукава. Тем не менее, сейчас мне думается, что, задавая этот вопрос, люди ждут своего рода «фактического ответа». Поэтому сегодня хотелось бы объясниться, почему я считаю рейтинг с пятизвездочной шкалой страшным и почему я решил использовать бинарную систему симпатий и антипатий.

Читать далее «Почему я ненавижу пять звёзд»

С++ — «латинский» XXI века

I’m going back to ones and zeros.
(You had ones? Lucky bastard! All we got were zeros.)
The Perils of Java Schools by Joel Spolsky, Thursday, December 29, 2005
 
Я возвращаюсь назад к нулям и единицам.
(У тебя есть единицы? Везучий отморозок! У нас были только нули.)
Опасности Java школ. Джоэл Спольски, четверг, 29 декабря 2005

Все чаще и чаще, в разговорах бывалых возникает тема — «программисты скоро вымрут, и останутся дизайнеры программного обеспечения».

Читать далее «С++ — «латинский» XXI века»

Настоящие программисты не пишут на Паскале

Эссе о программировании — классика околокомпьютерной сатиры, которое написал Эд Пост (Ed Post) из Орегонской компании Tektronix. Оно было опубликовано как письмо редактору в 29-м томе 7-го выпуска журнала Datamation в июле 1983 года. Название статьи пародировало название сатирической книги-бестселлера Настоящие мужики не едят пироги с заварным кремом, высмеивающей стереотипы о мужественности.

Эта cтатья в своё время широко обсуждалась в новостных cкомпьютерной сети Usenet и была хорошо известна многим специалистам индустрии производства программного обеспечения. Статья породила множество подражаний и отсылок к предмету обсуждения.

Статья сравнивает и противопоставляет Настоящих Программистов, которые используют перфокарты и программируют на Фортране и Ассемблере, современным «пожирателям пирогов с заварным кремом», которые используют такие языки программирования как Pascal, которые поддерживают структурное программирование и накладывают определённые ограничения с целью предотвращения наиболее распространённых ошибок в логике работы программы. В статье приводился ряд подвигов Настоящих Программистов, таких как подвиг Сеймура Крэя — создателя суперкомпьютера Cray-1, набравшего операционную систему для компьютера CDC 7600 с консоли по памяти для того, чтобы его запустить.

Читать далее «Настоящие программисты не пишут на Паскале»

Фантастика! Открыт бесплатный глобальный доступ к компьютеру когнитивных вычислений IBM Watsоn

В рамках CNews FORUM «Информационные технологии завтра» в конце прошлого года недавно назначенный руководитель департамента ИТ и связи Минздрава Елена Бойко заявила о намерении создать в России систему поддержки принятия врачебных решений, не хуже суперкомпьютера IBM Watson (см. [здесь]). Пока суд да дело, поиск финансов, утверждение бюджета, тендер, котировки-распиловки IBM пригласил бесплатно воспользоваться услугами первого компьютера когнитивных вычислений Watson, представленого на платформе PaaS Bluemix. Вот как это выглядит:

What is IBM Watson and Bluemix?
Do you want to put the power of Watson in your applications? Do you want to radically change the way you interface with your users? In the first of three Techbyte videos, Nathan Vega and Swami Chandrasekaran will introduce the listeners to the concepts of cognitive computing, IBM Watson, and IBM’s Platform-as-a-Service, Bluemix. This is no longer just a machine that won on Jeopardy, but a powerful cognitive cloud platform. This session will orient the listener to what’s different about this technology and just how powerful it is. Join us for the series to learn about how you can power your own application with Watson. Join us to find out more on Watson services and check them out for yourself at Bluemix.net

Что в привычной трансляции означает:

Что есть IBM Watson и bluemix?
Вы хотите использовать мощь Watson в своих приложениях? Вы хотите кардинальным образом изменить интерфейс пользователя? В первых трех Techbyte видео, Натан Вега (Nathan Vega) и Свами Чандрасекаран (Swami Chandrasekaran) познакомят слушателей с концепцией когнитивных вычислений, IBM Watson и IBM-вской Платформой-как-услуга, реализованной на bluemix. Это уже не просто машина, которая выиграла Телевикторину, но мощнейшая когнитивная облачная платформа. На этих сессиях слушатели сориентируются в особенностях этой технологии и убедятся в её мощьности. Присоединяйтесь к нам и узнайте о том, как вы сможете подключить Watson в свои собственные приложения. Присоединяйтесь к нам и узнайте больше об услугах Watson, проверьте их на себе с помощью Bluemix.net.

Форму для регистрации расположена [здесь]

Уже сегодня доступны
8_dostupnyh_uslug_Vatson_na_platforme_Blyumiks[1]

Государство

1

Из совокупности
Избытков, скоростей,
Машин и жадности
Возникло государство.
Гражданство было крепостью, мечом,
Законом и согласьем. Государство
Явилось средоточьем
Кустарного, рассеянного зла:
Огромным бронированным желудком,
В котором люди выполняют роль
Пищеварительных бактерий. Здесь
Все строится на выгоде и пользе,
На выживанье приспособленных,
На силе.
Его мораль — здоровый эгоизм.
Цель бытия — процесс пищеварения.
Мерило же культуры — чистота
Отхожих мест и емкость испражнений.

2

Древнейшая
Из государственных регалий
Есть производство крови.
Судья, как выполнитель Каиновых функций,
Непогрешим и неприкосновенен.
Убийца без патента не преступник,
А конкурент:
Ему пощады нет.
Кустарный промысел недопустим
В пределах монопольного хозяйства.

3

Из всех насилий,
Творимых человеком над людьми,
Убийство — наименьшее,
Тягчайшее же — воспитанье.
Правители не могут
Убить своих наследников, но каждый
Стремится исковеркать их судьбу:
В ребенке с детства зреет узурпатор,
Который должен быть
Заране укрощен.
Смысл воспитания —
Самозащита взрослых от детей.
Поэтому за рангом палачей
Идет ученый Комитет
Компрачикосов,
Искусных в производстве
Обеззараженных
Кастрированных граждан.

4

Фиск есть грабеж, а собственность есть кража,
Затем, что кража есть
Единственная форма
Законного приобретенья.
Государство
Имеет монополию
На производство
Фальшивых денег.
Профиль на монете
И на кредитном знаке герб страны
Есть то же самое, что оттиск пальцев
На антропометрическом листке:
Расписка в преступленьи.
Только руки
Грабителей достаточно глубоки,
Чтоб удержать награбленное.
Воры,
Бандиты и разбойники — одни
Достойны быть
Родоначальниками
Правящих династий
И предками владетельных домов.

5

А в наши дни, когда необходимо
Всеобщим, равным, тайным и прямым
Избрать достойного —
Единственный критерий
Для выборов:
Искусство кандидата
Оклеветать противника
И доказать
Свою способность к лжи и преступленью.
Поэтому парламентским вождем
Является всегда наинаглейший
И наиадвокатнейший из всех.
Политика есть дело грязное —
Ей надо
Людей практических,
Не брезгающих кровью,
Торговлей трупами
И скупкой нечистот…
Но избиратели доселе верят
В возможность из трех сотен негодяев
Построить честное
Правительство стране.

6

Есть много истин, правда лишь одна:
Штампованная признанная правда.
Она готовится
Из грязного белья
Под бдительным надзором государства
На все потребности
И вкусы и мозги.
Ее обычно сервируют к кофе
Оттиснутой на свежие листы,
Ее глотают наскоро в трамваях,
И каждый сделавший укол с утра
На целый день имеет убежденья
И политические взгляды:
Может спорить,
Шуметь в собраньях и голосовать.
Из государственных мануфактур,
Как алкоголь, как сифилис, как опий,
Патриотизм, спички и табак, —
Из патентованных наркотиков
Газета
Есть самый сильнодействующий яд,
Дающий наибольшие доходы.

7

В нормальном государстве вне закона
Находятся два класса:
Уголовный
И правящий.
Во время революций
Они меняются местами,
В чем,
По существу, нет разницы.
Но каждый
Дорвавшийся до власти сознает
Себя державной осью государства
И злоупотребляет правом грабежа,
Насилий, пропаганды и расстрела.
Чтоб довести кровавый самогон
Гражданских войн, расправ и самосудов
До выгонки нормального суда,
Революционное правительство должно
Активом террора
Покрыть пассив убийц,
Так революция,
Перетряхая классы,
Усугубляет государственность:
При каждой
Мятежной спазме одичалых масс
Железное огорлие гаротты
Сжимает туже шейные хрящи.
Благонадежность, шпионаж, цензура,
Проскрипции, доносы и террор —
Вот достижения
И гений революций!


Максимилиан Волошин
13 апреля 1922, Коктебель

Все праздники ИКТ-шников

Праздник каждый день — это выражение вряд ли относится к ИТ-сообществу. Однако, у людей, связавших себя с высокими технологиями, тоже есть дни в году, в которые они могут с гордостью сказать — «Я программист, сисадмин, тестировщик и т.д.».
Кстати, праздников, как выяснилось, так или иначе относящихся к ИТ, не так уж и мало. Среди них есть летние, весенние, зимние, и, конечно же — осенние. К последним относится и День программиста, который не так давно был признан в России официальным. Итак, по порядку.

Международный день без интернета

Данный праздник придумали в 2002 году организаторы британского некоммерческого онлайнового проекта DoBe.org, которые объявили последнее воскресенье января Международным днем без интернета. В этом году он отмечался 25 января. По их замыслу этот день люди должны провести в оффлайн, то есть без выхода во всемирную сеть и без компьютера. Пользователи сети, вместо онлайн-общения, должны выйти на прогулку, выехать за город, навестить родственников и друзей. Для того чтобы выбрать способ проведения времени без интернета, DoBe.org предлагает на листе бумаги написать шесть вариантов проведения досуга, а затем бросить игральную кость, чтобы определить, какой из них осуществить в первую очередь. Таких дней без интернета уже 21.

День безопасного интернета

Этот праздник был учрежден по инициативе Европейской комиссии в 2004 году. Он отмечается в первый вторник февраля. В 2009 году празднование пришлось на 2-е число месяца. Целью дня безопасности в интернете является информирование пользователей сети о рисках и опасностях, связанных со всемирной паутиной. Праздник отмечается по всему миру. Праздник отмечают 13 раз.

День компьютерщика

Праздник отмечается 14 февраля. Это день всех влюбленных в компьютеры людей. А если серьезно, то 14 февраля 1946 года был запущен первый электронный цифровой компьютер ENIAC, который реально работал и даже совершал вычисления (обсчет баллистических таблиц армии США). В честь этого события и задумали праздник, отмечать который теперь могут миллионы пользователей компьютеров во всем мире.

День оверклокера

Это праздник для компьютерных энтузиастов, которые «разгоняют» процессоры своих ЭВМ до неведомых скоростей. По легенде впервые упоминание об этом празднике было зафиксировано в форуме российского оверклокерского портала в 2004 году. Некто под ником «зЁма с чернозЁма» предложил: «…давайте назначим себе дату — День оверклокеров (а то день танкиста есть, у лесной промышленности тоже… абыдно жить без праздника)». C тех пор «День оверклокера» отмечается в обычный год 28 февраля, а в високосный — «разогнанный год» — 29 февраля. Причем этот праздник, зародившийся в России, отмечается теперь по всему миру.

День ИТ-специалистов

Является неофициальным праздником. Отмечается 28 февраля в день изобретения сетевого кабеля. В основном — это еще один повод выпить с коллегами.

День свободы слова в интернете

Этот праздник создан по инициативе международной организации «Репортеры без границ» и проходит под патронатом ЮНЕСКО. День свободы слова в интернете — мероприятие сравнительно молодое — впервые он отмечался 12 марта 2008 года. Его целью является поддержка интернет-диссидентов, которые отбывают тюремное заключение по всему миру. В прошлом году в застенках находилось 63 человека, чья свобода слова не понравилась властям.

Организаторы мероприятия призывают в этот день выразить в виртуальном пространстве протест против цензуры, которой злоупотребляют правительства некоторых стран. К таким относятся Бирма, Китай, Северная Корея, Куба, Египет, Эритрея, Тунис, Туркменистан, Вьетнам и другие.

День выключения (Shutdown Day)

Впервые этот праздник отмечался 24 марта 2007 года. Тогда в Сети появился призыв отключить в один день как можно больше компьютеров по всему миру. Цель акции заключается в том, чтобы узнать, сколько же людей может продержаться в течение суток без компьютера, и что может произойти в результате такого флешмоба. Авторами идеи стали программисты, проживающие в Монреале (Канада), Denis Bystrov (родился в Белоруссии) и Ashutosh Rajekar (родился в Индии).

День вэб-мастера

4 апреля отмечается День веб-мастера (или Вебмастера). Дата этого праздника выбрана неслучайно: если присмотреться, можно заметить, что цифры 4.04 очень напоминают по своему написанию ошибку 404 («Страница не найдена»), имеющую прямое отношение к работе веб-мастеров. К тому же эта дата совпадает с Международным днем интернета. Веб-мастер — профессия довольно новая, она появилась совсем недавно, в век развития интернета. Веб-мастер, или «управляющий» сайтом, — это человек, занимающийся разработкой веб-сайта или корпоративного приложения в интернете.

Впервые термин «веб-мастер» ввел в обращение «праотец» Интернета Тим Бернерс-Ли в документе «Руководство по стилю гипертекста в онлайне» в 1992 году. В начале 1990-х, когда «общедоступный» Интернет еще только начинал развиваться, функционал первых веб-мастеров был очень разнообразным: он включал в себя обязанности веб-дизайнера, автора и модератора сайта, программиста, системного администратора, контент-менеджера (ответственного за смысловое наполнение сайта), сотрудника технической поддержки сайта

С развитием Интернета и появлением более крупных сайтов технологии их разработки усовершенствовались, что привело к выделению специализаций веб-мастеров в разные профессии. Кстати, оказывается, что в отличие от русского языка, где не существует женской формы названия этой профессии, в английском языке веб-мастеров женского пола иногда называют «веб-мистресс» (англ. webmistress), однако широкого распространения эта форма не получила.

День рождения Рунета

Отмечается 7 апреля. Именно в этот день в 1994 году международная организация ICANN (The Internet Corporation for Assigned Names and Numbers), которая занимается вопросами регламентирования отношений в мировом доменном пространстве, зарегистрировала для России домен .Ru. Кроме того, 7 апреля было подписано Соглашение «О порядке администрирования зоны RU». В этом году Рунету исполняется 28 лет.

День Криптографической службы России

Свой профессиональный праздник отечественные шифровальщики отмечают 5 мая. По информации Центра общественных связей ФСБ, служба, созданная постановлением Совета народных комиссаров РСФСР от 5 мая 1921 года, обеспечивает с помощью шифровальных (криптографических) средств защиту информации в информационно-телекоммуникационных системах и системах специальной связи в РФ и ее учреждениях за рубежом, в том числе в системах, использующих современные информационные технологии.

Всемирный день информационного сообщества

ООН считает этот день праздником для всех представителей ИТ-сообщества. Генеральная Ассамблея ООН в 2006 году приняла резолюцию, в которой провозгласила 17 мая профессиональным праздником всех программистов, системных администраторов, интернет-провайдеров, веб-дизайнеров, редакторов интернет-изданий и всех остальных людей, занятых в сфере информационных технологий. До 2006 года этот праздник отмечался как Международный день электросвязи или Всемирный день телекоммуникаций. Дело в том, что 17 мая 1865 года в Париже был основан международный Телеграфный Союз.

День оптимизатора Рунета (День SEO-оптимизатора)

В этот день, 28 мая, свой профессиональный праздник отмечают оптимизаторы Рунета, или SEO-администраторы. Правда, праздник пока не имеет официального статуса, а о его существовании знают, в основном, специалисты данной сферы. Аббревиатура SEO (Search Engine Optimization) обозначает различные методы работы с поисковыми системами — с целью роста позиций ресурса в поисковой выдаче по определенным запросам пользователей. Профессия SEO-оптимизатора возникла в России еще в середине 90-х годов прошлого века. Именно тогда появились первые поисковые системы, позиции сайта в которых напрямую коррелировали с доходами от ресурса. С тех пор прошло много лет. Поисковики не раз меняли свои алгоритмы, параллельно с этим развивалось и SEO. Сегодня SEO — это мощная индустрия с многомиллионными оборотами.

День краудфандинга

7 июня 2015 года в России отметили новый праздник – День краудфандинга. Дата праздника была выбрана не случайно, именно 7 июня в 2012 году официально начал работу один из первых российских краудфандинговых сервисов – сайт Planeta.ru. Напомним, что краудфандинг (от англ. сrowd funding, сrowd – «толпа», funding – «финансирование») – это народное финансирование, или коллективное сотрудничество людей, которые добровольно жертвуют/вкладывают свои деньги, как правило через Интернет, чтобы оказать финансовую поддержку какому-либо проекту или организации. На русский же манер краудфандинг можно дословно перевести как – «с миру по нитке».

День системного администратора

Идея праздника пришла в голову сисадмина из Чикаго Теда Кекатоса (Ted Kekatos). Впервые он отмечался 28 июля 2000 года. Кстати, в 2000 году Папа Римский Иоанн Павел II официально назвал Святого Исидора покровителем пользователей компьютеров и интернета. Празднуется День сисадмина в последнюю пятницу июля. В этом году он отмечался 30 числа. Например, в России с 2006 года под Калугой ежегодно проходит Всероссийский слет системных администраторов, с каждым годом собирающий все больше и больше участников. Так, если первый слет посетило около 350 человек, то в 2009 году его участниками стали более 4000 человек из 174 городов России, Украины, Белоруссии и Казахстана.

День тестировщика

Отмечается 9 сентября. В этот день в 1945 году ученые Гарвардского университета, тестировавшие вычислительную машину Mark II Aiken Relay Calculator, нашли мотылька, застрявшего между контактами электромеханического реле. С тех пор именно эта дата считается профессиональным праздником людей, которые все свое время проводят в поисках багов, уязвимостей, «глюков» и прочих неполадок в ПО.

День программиста

Профессиональный праздник программистов, отмечаемый на 256-й день года (для программиста это 255-й день года или 0xFF-ный в 16-ричной системе счисления, так как счет начинается с нуля). Число 256 (28) выбрано потому, что это количество чисел, которое можно выразить с помощью восьмиразрядного байта. Отмечается праздник по предложению российского программиста Валентина Балта, сотрудника веб-студии «Параллельные Технологии», который еще в 2002 году собирал подписи под обращением к правительству РФ в поддержку признания этого дня официальным праздником.

В России праздник стал официальным только 11 сентября 2009 года, когда президент Дмитрий Медведев подписал Указ, подготовленный Министерством связи и массовых коммуникаций Российской Федерации, который устанавливает в стране новый официальный праздник — День программиста.

День рождения «смайла»

Это произошло 19 сентября 1982 года, когда профессор Университета Карнеги-Меллона Скотт Фалман (Scott E. Fahlman) впервые предложил использовать три символа, идущие подряд двоеточие, дефис и закрывающую скобку для обозначения «улыбающегося лица». Теперь это сочетание символов используется при онлайн-общении во всем мире, причем «отправить смайлик» могут друг другу не только друзья или знакомые, но и коллеги, а иногда улыбающееся лицо можно увидеть в диалогах между подчиненным и начальником.

Международный День интернета

Этот праздник предлагали сделать официальным несколько раз в разное время. Однако ни одна из предложенных дат так и не стала традиционной. Что касается России, то на неофициальном уровне Днем интернета считается 30 сентября. Дело в том, что с такой инициативой выступила компания из Москвы «IT Infoart Stars», которая разослала фирмам и организациям предложение поддержать их инициативу, состоящую из двух пунктов: назначить 30 сентября «Днем интернета», ежегодно его праздновать и провести «перепись населения русскоязычного интернета». На тот момент количество пользователей Рунета достигло 1 млн. человек.

Всемирный день юзабилити (World Usability Day)

был учрежден в 2005 году по инициативе Ассоциации Профессионалов Юзабилити. В этом же году он был впервые отпразднован и с тех пор отмечается ежегодно во второй четверг ноября. Юзабилити (Usability) можно дословно перевести с английского языка как «практичность, удобство и простота использования». Разумеется, существуют более подробные и точные определения. Например, Джейкоб Нильсен определяет юзабилити как: «… качество работы пользователя в некоторой интерактивной среде (web-сайт, программа и пр.)». Сегодня же термин «юзабилити» всё чаще используется как синоним слова «эргономичность» в контексте таких продуктов, как бытовая электроника или средства связи. В более широком значении он может также употребляться для определения степени эффективности выполнения механическими объектами и инструментами — такими, например, как дверная ручка или молоток — предписанных им функций. Таким образом, наиболее адекватным переводом слова «usability» будет «удобство и простота использования, применения» и даже «практичность». Одна из тем Дня прошлых лет была посвящена транспорту, которым мы пользуемся. Миссия этого праздника — повышение общественного сознания о необходимости упрощения доступа и повышения простоты использования продуктов и услуг, имеющих особо важное значения для человечества.

Всемирный день информации

Отмечается 26 ноября по инициативе Международной академии информатизации (МАИ), имеющей генеральный консультативный статус в Экономическом и Социальном советах ООН. Любой человек постоянно имеет дело с информацией, поэтому этот день по праву можно считать профессиональным праздником всех ИТ-специалистов.

Международный день защиты информации

Данный праздник отмечается с 30 ноября 1988 года по инициативе американской Ассоциации компьютерного оборудования. Цель праздника заключается в напоминании всем о необходимости защиты компьютерной информации, обратив внимание производителей и пользователей аппаратных и программных средств на проблему безопасности. Именно в 1988 году была зафиксирована первая массовая эпидемия компьютерного вируса. Это был червь, получивший название в честь своего автора Морриса.

День рождения отечественной информатики

В августе 1948 года член-корреспондент АН СССР Исаак Брук совместно с инженером Баширом Рамеевым представил проект автоматической вычислительной машины. А 4 декабря 1948 года Государственный комитет Совета Министров СССР по внедрению передовой техники в народное хозяйство зарегистрировал это изобретение за номером 10475 под названием «Цифровая электронная вычислительная машина»

Вот, пожалуй, и весь список. Хотя уже в следующем году какой-нибудь «айтишник» может придумать еще один необычный праздник, который, возможно, даже сделают официальным. Например, день блогера. А пока этого не произошло, можно выбрать из представленных выше самый подходящий и отметить его по полной программе.

Источник информации: [здесь]

The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets (No Excuses!)

  Специально студентам неблизким к информационным технологиям, экономистам, юристам и прочим нетехнарям-гуманитариям, желающим знать немного больше, чем слово «браузер» …
By Jouel Spolski

Источник: The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets (No Excuses!) by Joul Spolski

Абсолютно для каждого программиста абсолютный минимум знаний о наборах символов и Unicode, без которых решительно не обойтись. (Без возражений!)

Джоэл Спольски, Среда, 8 октября 2003

Вы никогда не задумывались о таинственном теге Content-Type? Того самого, который неизвестно как выглядит, если его надо вставить в HTML документ? Вы когда-нибудь получали электронную почту от своих друзей из Болгарии с темой «???? ???????? ????»?

Осознав, что множество разработчиков программного обеспечения абсолютно не компетентны во всем, что касается наборов символов, кодировкой, Unicode, считая все это таинственным миром, я был разочарован. Пару лет назад, при бета-тестировании FogBUGZ, стало любопытно, а справиться ли он с входящей почтой на японском языке. Японский? Электропочта на японском? Об этом я и мечтать не смел. При тщательной отладке коммерческого ActiveX компонента, который мы использовали для анализа MIME сообщений электронной почты, мы обнаружили, что при работе с текстом он делает что-то совсем непотребное и были вынуждены героически править код для исключения неправильных преобразований, что бы заставить его работать так, как надо. Когда я присматривался к другой коммерческой библиотеке, да к тому же еще в объектном коде, то в переписке с разработчиком этого пакета узнал, что он «ничего не сможет с этим поделать». Как и большинство программистов, он просто понадеялся, что все и так сойдет. Не получилось. А когда я обнаружил, что для популярнейшего средства Web-разработки PHP демонстрируется полное незнание вопросов кодировки, а для представления символов беспечно использует 8 бит, что делает практически невозможной любую «языковую примочку» в хороших международных Web-приложений, то понял — довольно, пора что-то делать.

Сегодня я официально заявляю, что если Вы программист и в 2003 году не знаете основ кодировки символов, Unicode и я Вас на этом поймаю — накажу, заставлю полгода чистить лук на подводной лодке. Клянусь — я это сделаю.

Кроме того,

ИТ не так уж сложны

В этой заметке я попытаюсь объяснить то, что должен знать каждый реальный программер. Выражение «Текст = ASCII символ = 8 бит» — не просто ошибка, а воинствующее и вопиющее незнание. Если, занимаясь программированием, Вы все еще так думаете, то Вы не намного лучше врача, который верит в бессмертие. Остановитесь, пожалуйста, не торопитесь писать еще одну строчку кода до тех пор, пока не прочитаете эту заметку.

Прежде чем я начну, должен сразу предупредить — если вы один из тех редких людей, которые знают об интернационализации, то, скорее всего, найдёте все мои рассуждения немного упрощёнными. Действительно, здесь я просто пытаюсь показать тот минимальный порог, который каждый должен перешагнуть для понимания происходящего и, возможно, написать код, только сулящий надежду на обработку текста с любым языком, кроме английского. И ещё должен предупредить, что принципы обработки — это только малая часть того, что необходимо для создания программного обеспечения международного уровня. Но одновременно писать я могу только об одном, а сегодня это наборы символов.

Историческая справка

Рис.1
Понять это проще всего, если заглянуть в историю. Не думаете, что сейчас я расскажу об очень старых наборах символов, например, EBCDIC. Не буду, нет. EBCDIC не имеет никакого отношения к нашей жизни. Так далеко углубляться в прошлое не надо. Вернёмся в лишь в недалёкое прошлое. Когда был придуман Unix и K&R писали о Языке программирования C, все было очень просто. EBCDIC был единственным выходом из положения. Символы, имеющие значение, — это только добрые старые безударные английские буквы, а код это, так называемый, ASCII-код, в котором для представления каждого символа используется число от 32 до 127. А до 32 все было свободно, буква «А» — это 65 и т.д. Все это удобно и можно хранить в 7 битах.

Большинство компьютеров тех дней использовали 8-битные байты, что позволяло особо прижимистым, скаредно экономить, использовав резерв в собственных целях — тусклая луковица WordStar фактически превратила свободный бит в индикатор последней буквы слова и это обрекло WordStar к обработке только английских текстов.

Все, что меньше 32 считалось нецензурными, предназначенным исключительно для ругательств. Шутка такая. На самом деле — это символы управления, например, 7 — это звуковой сигнал, которые должен изрекать компьютер, а 12 выбрасывает текущую страницу бумаги из принтера и на прокорм забирает новую.

И все бы было ничего, если бы был только английский. Постольку поскольку в байт помещалось восемь бит, то многим пришло в голову — «черт возьми, для себя любимого можно использовать коды диапазона 128-255». Но всё дело в том, что эта мысль пришла одновременно ко многим, а у каждого свои собственные идеи по использованию пространства от 128 до 255. У IBM-PC это выродилось в наборы OEM символов, где представлены нетрадиционные для английского символы европейских языков, а так же куча символов псевдографики для рисования — горизонтальные и вертикальные полосы, горизонтальные полосы с небольшими галтелями, оборванными по краям и т.д. С помощью таких графических символов можно нарисовать на экране элегантный бокс, который Вы еще сможете подсмотреть на компьютере 8088 своей химчистки. В действительности, как только ПК стали покупать за пределами Америки, каждый стал выдумывать свои наборы OEM символов, использующие верхние 128 кодов для своих собственных нужд. Например, на некоторых ПК код 130 будет отображать как символ é, а на компьютерах, продаваемых в Израиле, на иврите, будет написано гимел (λ). Поэтому, когда американцы посылают свои résumés в Израиль то, там читают rλsumλs . Частенько, например у русских, было множество различных реализаций верхних 128 кодов. Так, что надежно обмениваться русскими документами было невозможно.

Рис.2В итоге по либеральному принципу «свободно для всех» OEM стало стандартом ANSI кодировок. Согласно стандарту ANSI коды до 128 полностью соответствуют ASCII, а символы с кодами от 128 и выше зависят от Вашего местожительства с полной свободой реализации. Такие различия операционных систем назвали кодовыми страницами. Так, например, в Израиле DOS использует 862 кодовую страницу, в то же время греки предпочитают 737. Они одинаковы до 128 и отличаются после 128, где живут все эти смешные буковки. В национальных версиях MS-DOS были десятки кодовых страниц для обработки всего не английского, а может быть исландского. Было даже несколько «многоязычных» кодовых страниц, что позволяло работать на одном компьютере одновременно и на эсперанто, и на галисийском! Вот так! Однако, написать свою собственную программу, использующую для отображения растровую графику так, чтобы на одном компьютере работали одновременно и евреи, и греки принципиально невозможно — иврит и греческий слишком различны в интерпретации кодов и требуют абсолютно разных кодовых страниц.

А тем временем в Азии творится вообще полное безумие с учетом того факта, что азиатские алфавиты содержат тысячи символов, т.е. все их, ну никак, не вписать в 8 бит. Как правило, использовались «грязные» методы типа DBCS, «Double Byte Character Set», где часть букв кодируются одним байтом, а другая — двумя. В такой строке легко перемещаться вперед, но, чёрт возьми, совершенно не возможно назад. Для движения по строке назад и вперед программистам рекомендовалось не использовать *S++ и *S—, а вместо этого применять функции типа AnsiNext и AnsiPrev в Windows, которые научили бороться со всем этим кошмаром.

И все же до сих пор большинство просто делает вид, что байт — это все ещё 8 бит потому, что это всегда работает, если не переносить строки с компьютера на компьютер и говорить только на одном английском. Конечно, с появлением Интернета, когда передача текстов между компьютерами стала просто вынужденной необходимостью, весь этот порядок рухнул. Но к счастью изобрели Unicode.

Unicode

Unicode — это смелая попытка создания единого набора символов, включающего все разумные системы письма на планете и даже некоторые, искусственно созданные такие, например, как «клингонский язык». Многие заблуждаются, считая Unicode просто 16-разрядным кодом, где каждому символу отводится 16 бит, т.е. 65 536 возможных комбинаций. На самом деле все не так. Это самый распространенный миф о Unicode, а если вы так думаете, то пусть же Вам будет хуже.

Фактически, в Unicode несколько иное представление о персонажах и Вы должны понимать мотивы, иначе все остальное теряет смысл. До сих пор мы предполагали, что образ символ соответствует некоему набору бит, который хранится на диске или в памяти:

А -> 0100 0001

В Unicode символом называют код местоположения в таблице, а не битовый образ, — это теоретическая концепция. Именно, код места хранится в памяти или на диске. Образ А в Unicode — это платонический идеал. Это просто, парящий в небе символ A.

Этот платонический А отличается от B, точно так же, как а отличается А, но А не отличается от A, хотя отличается от а. Идея того, что «А» шрифта Times New Roman то же самое, что и «А» шрифта Helvetica, но отличается от «а» в нижнем регистре, не кажется очень уж спорной. Однако, выясняется, что в некоторых языках графический образ может быть сомнительным. Немецкий символ β – это действительно символ или причудливый способ написания ss? Если символ изменен в конце слова, является ли он другой буквой? Евреи говорят «да», а арабы «нет». Но по любому, Вам не придется об этом беспокоиться потому, что умные люди из консорциума Unicode на протяжении последнего десятилетия или около того только тем и занимались, что выясняли всё это, проводя большие и высокопарные политические споры для всеобщей ясности и понимания.

Всякому платоническому символу всякого алфавита консорциумом Unicode присвоено магическое число, которое записывается в виде U+0639. Это магическое число называется кодом места. U+ означает «Unicode», далее шестнадцатеричное число. U+0639 — это арабское Айн. Английская буква А — U+0041. Вы можете найти их все с помощью утилиты отображении символов вWindows 2000/XP или посетив веб-сайте Unicode.

В действительности в Unicode нет никаких ограничений на количество мест, даже если его надо больше чем 65 536 и символу надо сопоставить код размером большим чем два байта. Вот так и ни как иначе рушатся мифы.

Итак, у нас есть строка:

Hello,

что в Unicode соответствует пяти кодам:

U+0048 U+0065 U+006C U+006C U+006F.

Просто куча кодов. В действительности — это номера. Мы еще ничего не говорил о том, как эта куча хранится в памяти или представлена в электронной почте.

Кодировка

Вот, где введение в кодировку. Первая мысль о Unicode, которая и стала источником мифа о двух байтах, — Эй, давайте хранить эти цифры просто в двух байтах. Так Hello превращается в

00 48 00 65 00 6C 00 6C 00 6F

Верно? Но, не спешите! А не то же ли самое:

48 00 65 00 6C 00 6C 00 6F 00?

Ну, на самом деле, по технике это одно и то же и я уверен, что первые разработчики были в сомнениях — для какого конкретного режима работы процессора естественней хранить номера Unicode в старших байтах, а для какого в младших, но был вечер, и было утро, и вот уже два способа хранения Unicode. Так люди вынуждены придумать странные соглашения о записи FE FF в начале каждой строки Unicode. Это называется Unicode Byte Order Mark, и если вы смените свои старшие байты на младшие, то это будет выглядеть, как FF FE, а человек, читающий вашу строку, будет знать, что необходимо поменять местами все оставшиеся байты. Уф … Однако, в дикой природе не каждая строка Unicode содержит в начале метку порядка байтов.

Какое-то время всем всё казалось довольно удобным, но заворчали программисты. «Посмотрите на все эти нули!» — говорили они потому, что были американцами и смотрели только на английский текст, где редко используются номера более U+00FF. Более того, все эти либеральные Калифорнийские хиппи не хотели расти над собой. Техасцы даже не думали бы о двукратном поглощении байтов (прикол). Но эти калифорнийские слабаки не смогли переварить идею удвоения памяти для хранения текстов. Так или иначе, но уже есть масса ANSI и DBCS документов и, черт возьми, кто будет их конвертировать? Мы? Вот только по этой причине на протяжении нескольких лет большинство решительно игнорировало Unicode, а за это время всё стало совсем плохо.

В итоге, появилась блестящая концепция UTF-8. UTF-8 – это другая системы хранения кодов, этих волшебных U+номеров строки Unicode в памяти с помощью 8 битного байта. В UTF-8 каждый код от 0 до 127 хранится в одном байте. И только для хранения некоторых кодов от 128 и больше используются 2, 3, а на самом деле, до 6 байтов.
Рис.3
Английский текст выглядит в UTF-8 точно так же, как в ASCII, в чем нет ничего плохого. Но американцы даже не замечают этого галантного побочного эффекта. А весь остальной мир вынужден подпрыгивать в кольце. В частности, Hello, U+0048 U+0065 U+006C U+006C U+006F, будет храниться в виде 48 65 6C 6C 6F, вот! Точно так же как он хранится в ASCII, ANSI и любом OEM наборе планеты. Теперь, если вы возьмете на себя смелость использовать нестандартные или греческие буквы, клингонский язык, и должны будете использовать несколько байт для хранения одного номера символа, то американцы этого просто не заметят. (Кроме того, UTF-8 обладает хорошим свойством не обрезать строки в косолапой старой строке, где байт со значение NULL используется как нуль-терминатор).

До сих пор я говорил о трёх способах кодирования Unicode. Традиционные store-it-in-two-byte методы называются UCS-2 (потому что два байта) или UTF-16 (потому что 16 бит) и вы поняли, что такое UCS-2 старшего байта и UCS-2 младшего байта. Новый популярный стандарт UTF-8, обладает еще одним замечательным свойством — счастливым совпадением текстов на английском языке в различных кодировках, что позволяет прилично работать брендовым программам, которые даже не подозревают, что существует нечто кроме ASCII.

На самом деле есть масса других способов кодирования Unicode. Например, так называемый, UTF-7, который очень похож на UTF-8, но с гарантией нулевого значения старшего бита, что дает ему возможность, при необходимости, пробиться через всякие драконовские ограничения системы электронной полиции. Думается, что 7 битов Unicode вполне достаточно, что бы пролезть там без искажений.

Есть UCS-4, где каждый код места хранится в 4 байтах, обладающий замечательным свойством, хранения кода в фиксированном количестве байт, но, ей-богу, в самом деле, даже техасцы не настолько решительны, что бы жертвовать под отходы такую уйму памяти.

Надеюсь теперь, Вы думаете о сущности с точки зрения платонического идеала буквы, представленной номером в Unicode, которое может быть закодировано по схеме любой не слишком древней школы кодирования! Например, вы можете кодировать Unicode строку Hello (U+0048 U+0065 U +006C U+006C U+006F) в ASCII или старом OEM греческой кодировки, или иврите ANSI кодировки, или любой другой из нескольких сотен кодировок, изобретённых до сих пор с пониманием того, что некоторые буквы могут просто не отображаться! Если номер Unicode не заполнен, а Вы пытаетесь показать этот символ, то, обычно, получаете небольшой знак вопроса «?», а если Вы действительно хороши, то вопрос в коробке �. У Вас какой?

Есть сотни традиционных кодировок, где верно хранятся только некоторые номера, а все остальные места Unicode заменяются вопросительным знаком. Наиболее популярными кодировками текста для английского являются Windows-1252 (Windows 9x стандарт западноевропейских языков) и ISO-8859-1, также известный как Latin-1 (полезен для любого западноевропейского языка). Но попробуйте в них сохранить буквы русского или иврита и вы получите кучу вопросительных знаков. А вот UTF, 7, 8, 16 и 32 — все обладают хорошими свойствами и позволяют правильно хранить любой номер.

Самое важное в кодировках

Если вы полностью забудите все, что я только что сейчас объяснил, помните одно чрезвычайно важное обстоятельство — строка не имеет смысла, если не известна её кодировка. И Вы больше не можете прятать голову в песок и делать вид, что «просто текст» — это ASCII.

Нет такого понятия «просто текст».

Если у вас есть строка, в памяти, в файле или в сообщении электронной почты, то необходимо точно знать в какой она кодировке, иначе Вы не сможете её правильно интерпретировать и показать пользователям.

Почти каждый брюзжал — «мой сайт выглядит бредом» или «она не может прочитать мои письма не на английском». А проблему создал один наивный программист, который не понимает простого факта — если ему не сказали, что конкретная строка закодирована UTF-8, ASCII, ISO 8859-1 (Latin 1) или Windows 1252 (западноевропейская), то просто невозможно правильно её отобразить, более того, даже выяснить, где же она заканчивается.

Существует более ста кодировок, где номера более 127 полностью отсутствуют.

Как сохранить информацию о кодировке строки? Для этого есть несколько стандартных способов. Для сообщений электронной почты, вам потребуется строка в заголовке формы

Content-Type: text/plain; charset=»UTF-8″

Для веб-страниц была оригинальная идея — веб-сервер в заголовке http возвращает аналогичный Content-Type, т.е. не в HTML странице, а в заголовке, который отправляются до передачи самой HTML страницы.

Однако, в этом есть проблема. Допустим, у вас большой веб-сервер с огромным количеством сайтов и миллионами страниц, размещенных множеством людей на самых разных языках с использованием любых возможных кодировок, которые по своему усмотрению генерирует MS FrontPage. Веб-сервер сам по себе не может знать кодировку каждого файла и поэтому не может отправить соответствующий Content-Type заголовка.

Было бы удобно получить возможность размещать Content-Type в самом файле HTML, используя какой-то специальный тег. Конечно, пуристы сочтут Вас за сумасшедшего … Как вы можете прочитать HTML файл, если не знаете в какой он кодировке?! К счастью, почти у всех кодировок коды всех символов от 32 до 127 одинаковы, так что вы всегда можете прочитать страницу HTML без использования смешанных записей до:

1334677249-clip-2kb

Этот мета тег действительно должен быть самым первым, прочитав его, веб-браузер останавливает дальнейшую обработку страницы и заново начинает все переосмысливать, применяя полученную от Вас кодировку.

Что делают веб-браузеры, если не находят Content-Type в HTTP заголовке или в мета-теге? Internet Explorer на деле предпринимает что-то довольно интересное — по частоте появления характерных байт в характерных местах текста он пытается угадать язык и кодировку. По-столько по-скольку, старых 8 битовых страниц мало, а национальные буквы, из диапазона между 128 и 255, имеют характерные частоты распределения в текстах различных человечьих языков, то это, скорее всего, имеет шансы работать. По настоящему странно то, что это работает довольно часто потому, что веб-страницы наивных писателей, которые никогда не знали о Content-Type в заголовке, выглядят в web-браузере нормально, пока в один прекрасный день, они не начнут писать тексты с отличным от их родного языка частотным распределение букв. Тогда Internet Explorer решит, что это корейский и соответствующим образом отобразит, доказывая, как думается, закон Постела «Будь требователен к тому, что отсылаешь, и либерален к тому, что принимаешь», откровенно неважный принцип для инженера. Во всяком случае, что делает бедный читатель болгарского сайта, который показан на корейском (и даже фрагментарно на корейском)? В главном меню «Просмотр» пункт «Кодировка» он пытается перебирать кучу разных кодировок (по крайней мере дюжину для восточн-европейских языков), пока страница не прояснится. Если он знает, что делать, но большинство об этом не знает.

В программном обеспечении последней версии CityDesk — системы управления контентом сайта моей компании, мы решили всю внутреннюю кодировку сделать в UCS-2 (два байта) Unicode, которая по жизни была родной в Visual Basic, COM, и Windows NT/2000/XP. В кодах на C++ мы просто объявили строки как wchar_t («широкий символ»), а не char и использовать wcs_функции вместо str_функций (например, wcscat и wcslen вместо strcat и strlen). Для записи литеральной константы UCS-2 в коде на C достаточно перед ней просто написать символ L, вот так: L»Hello».

Когда CityDesk публикуется, то веб-страницы преобразуются в UTF-8, который на протяжении многих лет замечательно поддерживается большинством веб-браузеров. Вот так кодируются все 29 языковых версий программного обеспечения от Joel и еще ни от одного человека я не слышал жалоб на какие-либо проблемы при просмотре.

Заметка становится довольно нудной, хотя, все еще не охватила всего того, что надо знать о кодировках и Unicode. Однако, надеюсь, что ежели Вы дочитали до сюда, то знаете достаточно и можете вернуться к программированию без пиявок и заклинаний, применив прописанные здесь антибиотики.