[RFC]: device支持meta类型

### 背景与目标描述. meta device是指虚拟设备，不同于CPU、NPU等物理硬件，基于meta设备的张量主要包括元数据信息（形状、数据类型等），不需要分配实际内存或显存。 #### meta device用途： 1、大模型初始化和结构分析 在大模型训练中，如果只想知道模型结构、参数量、各层形状等，不需要真正初始化内存数据时，可以用‘meta’设备快速搭建模型。 2、节省显存，避免OOM问题 基于FSDP训练时，如果一开始每个进程都初始化完整权重，可能出现显存不够用的问题。可以先在meta设备上构造模型，然后按需将部分参数具体化（materialize）到CPU/NPU上，从而节省显存开销。 #### 目标： 1、device类型扩展，支持meta类型； 2、指定device='meta'创建张量，包括ms.tensor(device='meta'), Tensor(device='meta'), empty(device='meta'), empty_like(device='meta')等； 3、通过Tensor.is_meta()接口判断当前tensor是否是meta设备类型； 4、支持类似with ms.device('meta')上下文，在上下文内，全局device是meta类型； 5、当全局device是meta类型时，创建parameter参数也是meta类型； 6、当全局device是meta类型时，functional接口输出tensor也是meta类型； ### 建议的方案. #### 扩展device类型 在现有device type枚举中增加meta类型： mindspore/core/include/device_address/device_type.h ``` enum class DeviceType { kUnknown = 0, kCPU = 1, kAscend = 2, kGPU = 3, kNone = 4, kMeta = 5, kDeviceEnd }; ``` #### 基于Tensor()创建张量 当前Tensor()方法支持device入参，但是仅限'CPU'，限制条件需要兼容'meta'，同时在C++侧init方法里兼容device为'meta'并创建meta设备的张量。 1、device入参支持'meta' ``` def _check_device(device): """Check device""" if device is not None and device not in {"CPU", "meta"}: raise ValueError(f"Only {'CPU', 'meta'} is supported for device, but got {device}.") ``` 2、C++侧init方法支持创建meta设备tensor 在TensorPy_pyinit方法里，判断如果入参没有device的话，再判断如果全局device是'meta'，则也创建meta设备张量，流程图如下： <img src="https://foruda.gitee.com/images/1768539405780199740/743a5ba6_13394280.png" width=70% height=70%/> #### 基于ms.tensor()创建张量 当前tensor.py中有tensor()方法，内部是直接调用Tensor()创建张量，对该方法增加device入参： ``` def tensor(input_data=None, dtype=None, shape=None, init=None, const_arg=False, device=None): return Tensor(input_data, dtype, shape, init, const_arg, device) ``` #### 基于empty/empty_like创建张量 目前empty、empty_like接口已经支持device入参，在这两个接口内部补充逻辑，如果device_type是'meta'，则创建meta设备张量，然后直接返回，不需要分配内存。 增加代码示意如下： ``` auto device_type = GetDeviceName(nullptr, device); if (device_type == device::DeviceType::kMeta) { MS_LOG(WARNING) << "empty. create meta tensor."; PyBoostUtils::Crea…