OSDev

создаю ISO устанавливаю boot.bin как загрузчик,
только вот какой загрузчик писать, просто не знаю в какой FS записан образ.

Если создаёшь ISO, то файловая система ISO-9660
Соответственно, загрузчик нужен для этой ФС. Можно взять готовый из моего загрузочного набора (см. подпись).

_________________
Yet Other Developer of Architecture.
The mistery of Yoda’s speech uncovered is:
Just an old Forth programmer Yoda was.
<<< OS Boot Tools. >>>

Загрузчик это 512 байт которые грузит биос, с первого сектора диска. Всё остальное уже грузит то, что в этих 512 байтах.

Дважды неправда применительно к ISO-формату. Хотя бы для общего развития почитай "El Torito" Spec. (нынче часть EDD Spec.)

http://ru.wikipedia.org/wiki/ISO_9660

на сколько я понимаю в ISO очень много форматов,
и записать можно практически любой диск с лубой файловой системой.

В каком смысле много форматов? Формат один, есть несколько расширений, например, El Torito как раз для загрузочных дисков и еще, например, Joliet. Основа в любом случае одна.

Основа одна плюс надстройки. Еще есть эмуляция, при которой в образе эмулируемого диска может находиться практически любая ФС для флоппика/харда. В последнем случае ты действительно можешь использовать загрузчик, никак не связанный с ISO-форматом, но учитывающий структуру образа. Лично я не использую эмуляцию, т.е. использую загрузчик, аналогичный тому, который тебе предлагал Yoda. Еще есть возможность выполнять загрузку в режиме без эмуляции и при этом не разбирать структуру ФС. В этом случае загрузчику должно быть точно известно местоположение и размер загружаемого файла/файлов на диске.

и какая основа (FAT, NTFS, HFS)
как с ней работать.

Ну так ISO 9660, если начинать изучение с самого стандарта, то недолго запутаться, уж очень он избыточен, имхо. Вот здесь довольно хорошо описано http://wiki.osdev.org/ISO_9660

Основа, - я же написал, ISO-9660. Документация по ней здесь: http://www.ecma-international.org/publi ... ma-119.htm
Как работать с ней, - проще всего в эмуляторе Bochs. Как сделать образ загрузочного компакт-диска, очень подробно с конкретными ссылками написано здесь: http://goncharov.pp.ru/ru/osboot.htm#cdrom

_________________
Yet Other Developer of Architecture.
The mistery of Yoda’s speech uncovered is:
Just an old Forth programmer Yoda was.
<<< OS Boot Tools. >>>