Можно написать в формате texinfo (расширение .texi). Довольно много документации фришного софта использует этот формат как затравочный, из которого затем генерятся html и pdf. Есть куча утилит, которые затем могут из texinfo сделать другой формат. Для экспорта в html есть разные варианты. Можно сделать всё в одном файле, можно разбить по файлам. Возможно, есть и такие, которые оглавление CHM сделают, чтобы CHM грамотный получился. Ещё есть какой–то формат DocBook, но я про него мало знаю.
Можно что–нибудь своё написать.
Кстати, может быть, неплохая идея: выложить справочник онлайн и позволить юзерам оставлять комменты, как на php.net. А потом эти комменты экспортировать в файл и вкладывать их в следующую версию справочника. Такое ещё никто не проворачивал AFAIK.