Refactor dualmodule._modules

[marigoold]

background: https://github.com/siliconflow/sd-team/issues/191#issue-2063207008
test code:

import oneflow as flow
from onediff.infer_compiler.with_oneflow_compile import oneflow_compile
from onediff.infer_compiler.transform import register
import torch

class Modulelist(torch.nn.Module):
    def __init__(self):
        super().__init__()
        self.module_list = torch.nn.Sequential(
            *[torch.nn.Linear(4, 4, bias=None) for _ in range(5)]
        )

    def forward(self, x):
        return self.module_list(x)

class OfModulelist(flow.nn.Module):
    def __init__(self):
        super().__init__()
        self.module_list = flow.nn.Sequential(
            *[flow.nn.Linear(4, 4, bias=None) for _ in range(5)]
        )

    def forward(self, x):
        return self.module_list(x)

register(torch2oflow_class_map={Modulelist: OfModulelist})

model = Modulelist()
of_model = oneflow_compile(model, use_graph=False)
print("torch enumerate: ", [type(x) for _, x in enumerate(model.module_list)])
print("oneflow enumerate: ", [type(x) for _, x in enumerate(of_model.module_list)])

before:

torch enumerate:  [<class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>]
oneflow enumerate:  [<class 'torch.nn.modules.container.Sequential'>]

after:

torch enumerate:  [<class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.mo
dules.linear.Linear'>]
oneflow enumerate:  [<class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.modules.linear.Linear'>, <class 'torch.nn.
modules.linear.Linear'>]

[marigoold]

之所以不复制 dict 而是直接指向 torch module 的 dict，是因为考虑到 torch module 改动可以直接同步到 dual module 这里

[hjchen2]

之所以不复制 dict 而是直接指向 torch module 的 dict，是因为考虑到 torch module 改动可以直接同步到 dual module 这里

对torch module的改动没法同步到oneflow module上吧

[marigoold]

之所以不复制 dict 而是直接指向 torch module 的 dict，是因为考虑到 torch module 改动可以直接同步到 dual module 这里

对torch module的改动没法同步到oneflow module上吧

如果 oneflow module 还没有创建，是可以在创建的时候同步过去的；如果已经创建了，修改 torch module 意味着计算图改变，这个时候还是得重新编译吧。
这个改动主要是为了让遍历 deployable_module_model.named_modules() 时表现和遍历 torch module 相同

[ccssu]

这么设置 model=oneflow_compile(model) ; model.state_dict() 是怎样的？ 和以前兼容吗

[marigoold]

这么设置 model=oneflow_compile(model) ; model.state_dict() 是怎样的？ 和以前兼容吗

理论上就不会有 _deployable_module_model._torch_module 这一层了，那个 hook 就不需要了。不过我还是测试一下

[marigoold]

这么设置 model=oneflow_compile(model) ; model.state_dict() 是怎样的？ 和以前兼容吗

对比了一下 key，是一样的