На ассемблере будет обычный int. Но компилятор сможет учитывать, что этот int в своем нормальном состоянии никогда не будет равен нулю и использовать это в своих целях.

Самый банальный пример то, как будут выглядеть опциональные типы, то, что в C++ std::optional, а в расте std::option.

В структуре нужно хранить само значение и признак того, валидно оно или нет.

Т.е. обычно структура на плюсах упрощенно будет выглядеть как-то так:

class Option<T> {
    bool is_empty;
    T value;
}

В общем виде, примерно так же будет выглядеть эта структура и на расте. Но, если вместо T использовать значение, у которого одно из значений может отсутствовать, например нулевое значение, то от булевского флага можно избавиться и использовать нулевое значение этого типа как признак того, что этот optional пустой.