OSDev

у меня началаглючить многозадачность, как таковые процессы запускаются но когда происходит команда iretd всё останавливается,

для теста даже проверил отдельно

пробовал всё это дело вразных комбинациях и в разном порядке,
но так и не могу понять почему эта штука не возвращается обратно.

Какой эмулятор и какое исключение? А ещё весь код нужен, думаю

эмулято vbox

весь код не нужен, там idt gdt и tss-ы генерируются.

Где код выхода из вложенной задачи?

там просто iret стоит.

Ты уверен, что у тебя установлен флаг NT? Надеюсь, прерывания во вложенной задаче запрещены.

я его не устанавливал, у основной задачи все флаги сброшены

нет там прерывания разрешены, пробовал запрещять и это не помогает,


пославил исключения и попробовал вызвать какое нибудь из них ( int 10h)
после этого отключилось GDT,

поставил на таймерный IRQ многозадачность и оно тоже не работает.

Причину ошибки быстро найдёшь с помощью отладчика Bochs. Там мы много обсуждали способы отладки
viewtopic.php?f=6&t=785

В плане отладки, если работаешь под *nix запросто можно запилить такое - вполне себе полноценную IDE для разработки ОС, с дамами и преферансом. Вместо VMware использовать тот же Bochs или QEMU, у них же есть gdb stub на порту 1234 (только вот работали они у меня под x86, а на x86_64 в упор не хотят).

P.S.: Это можно сделать из под винды - gdb есть реализация и под win.

Этот флаг устанавливается автоматически внутри вызванной задачи. И чтобы правильно сработал именно нужный iret, нужно обеспечить NT=1 в момент выполнения этого iret'а.

Прерывания должны быть запрещены. Иначе все прерывания и исключения должны обрабатываться внутри других вложенных задач или при NT=0. Сдается мне, вы неправильно используете аппаратную многозадачность с вложенными задачами. Скорее всего вам больше подойдет аппаратное переключение jump'ом.