arrays - 如何处理 VBA boolean/LongLong 数组中的“类型不匹配”?
问题描述
尝试执行以下代码时,我收到 VBA 错误:类型不匹配。任何人都知道原因(和解决方案?:-))
我将数据类型从 Long 更改为 LongLong 以便能够处理更大的数字。在此之前,代码(摘录)运行良好。
Private Declare PtrSafe Function GetDC Lib "user32" (ByVal hwnd As LongPtr) As LongPtr
Private Declare PtrSafe Function GetDeviceCaps Lib "gdi32" (ByVal hDC As LongPtr, ByVal nIndex As Long) As Long
Private Declare PtrSafe Function ReleaseDC Lib "user32" (ByVal hwnd As LongPtr, ByVal hDC As LongPtr) As Long
Public Sub TestScreenResolution()
Debug.Print ScreenResolution
End Sub
Private Function ScreenResolution() As Double
Dim hDC As Long
hDC = GetDC(0)
ScreenResolution = GetDeviceCaps(hDC, 88)
ReleaseDC 0, hDC
End Function
Public Sub TestMySub()
Call MySub(999999999)
End Sub
Private Sub MySub(ByVal x As LongLong)
Dim y As LongLong
Dim Max As LongLong
Dim Min As LongLong
Max = x * x
Min = (x - 1) * (x - 1)
Dim Arr() As Boolean 'Default Boolean type is False
ReDim Arr(Min To Max) ''<<< "Type Mismatch" compile error
For y = Max To Min Step -2
Arr(y) = True
Next y
End Sub
当然这段代码什么都没有,只是为了测试这段代码。
解决方案
tldr;
您无法“处理”它-与您的陈述LongLong
不兼容。ReDim
(虽然999999999
从技术上讲适合 a Long
,但编译器不允许在那里进行缩小转换)。
VBA 中任何数组的最大大小由其内部支持的SAFEARRAY
结构(在OLE 自动化协议规范的第 2.2.30.10 节中定义)确定。C++中结构的定义是这样的:
typedef struct tagSAFEARRAY { USHORT cDims; USHORT fFeatures; ULONG cbElements; ULONG cLocks; PVOID pvData; SAFEARRAYBOUND rgsabound[1]; }
请注意,cbElements
数组项的大小(以字节为单位)。这有效地将每个项目限制为 ~4GB。
您遇到的问题在于存储有关数组维度的信息的SAFEARRAYBOUND
结构:
typedef struct tagSAFEARRAYBOUND { ULONG cElements; LONG lLbound; } SAFEARRAYBOUND, *LPSAFEARRAYBOUND;
这意味着无论编程语言如何,您可以塞入a 的任何维度的最大总项目数是(4,294,967,295) 的值。因此,以下编译(尽管它在我的机器上分配内存不足):SAFEARRAY
ULONG_MAX
Dim foo(-2147483646 To 2147483647) As Byte
请注意,在上面的示例中,下限是负数,因为 VBA 也不支持无符号类型,这对 VBA 代码来说是调整数组大小的另一个障碍。从技术上讲,您可以通过 oleaut32.dll 导出的SafeArrayCreate0 To 4294967294
函数请求一个具有边界的数组,但我怀疑您在索引它时会遇到类似的问题。
进一步剥离层,您开始达到一些更有趣的限制。例如,回头看SAFEARRAYBOUND
上面的结构,你会注意到虽然你可以有ULONG_MAX
elements,但数组的下限是由一个signed LONG
约束的。这是限制被延续到处理SAFEARRAY
s 的大多数其他 OLE 自动化中,包括SafeArrayGetLBound
和其他(有趣的SafeArrayGetUBound
是,它也被签名,这让我想知道你是否可以溢出它......)。
那么,为什么 MS 在添加 64 位支持时没有更新呢?好吧,它几乎会破坏一切。除此之外,真的没有任何迫切的需要——一旦你超越了ULONG
元素,你就会开始遇到非常实际的内存问题,因为必须在创建结构时分配数据区域的内存——否则这是不可能的通过 COM 使用它,因为该结构的根是一个指针,并且合同规定调用代码(无论客户端如何)必须能够使用数据区域内的任何地址,包括 VBA。
推荐阅读
- postgresql - postgres 函数参数是通过引用还是值传递?
- c++ - 无法通过引用 std::exception 来捕获从 std::exception 派生的类
- java - Jacoco:查找外部测试的代码覆盖率
- c# - 从 UWP 应用取消链接用户/订阅许可证
- documentum - 文档错误:[DFC_OBJPROTO_BAD_NUMBER_FORMAT]
- javascript - 单击切换图像时添加文本
- javascript - 如何在Vue js中计算折扣
- angular - 抽象类构造函数抛出错误
- javascript - 在 axios 中响应代码 400 时出现问题
- haskell - 创建一个矩形 - 坐标 - Haskell