首页 > 解决方案 > Address sanitizer detects problem with eigen method (suspect bug in eigen)

问题描述

I have address sanitizers enabled, I have 2 different snippets:

    uint interior_count = 4;
    Eigen::SparseMatrix<double> tmp(interior_count, interior_count);
    for(uint i = 0; i < interior_count; i++)
    {
        tmp.insert(i, i) = 1;
    }
    Eigen::SparseLU<Eigen::SparseMatrix<double>, Eigen::COLAMDOrdering<int>> solver(tmp);
    uint interior_count = 4;
    Eigen::SparseMatrix<double> tmp(interior_count, interior_count);
    tmp.setIdentity();
    Eigen::SparseLU<Eigen::SparseMatrix<double>, Eigen::COLAMDOrdering<int>> solver(tmp);

The first one triggers sanitizers:

=================================================================
==7090==ERROR: AddressSanitizer: dynamic-stack-buffer-overflow on address 0x7ffcf14d4470 at pc 0x55c70960db47 bp 0x7ffcf14d4090 sp 0x7ffcf14d4080
WRITE of size 4 at 0x7ffcf14d4470 thread T0
    #0 0x55c70960db46 in Eigen::internal::assign_op<int, int>::assignCoeff(int&, int const&) const /usr/include/eigen3/Eigen/src/Core/functors/AssignmentFunctors.h:24
    #1 0x55c70960d7b5 in Eigen::internal::generic_dense_assignment_kernel<Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::assign_op<int, int>, 0>::assignCoeff(long) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0xad7b5)
    #2 0x55c709608260 in Eigen::internal::dense_assignment_loop<Eigen::internal::generic_dense_assignment_kernel<Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::assign_op<int, int>, 0>, 1, 0>::run(Eigen::internal::generic_dense_assignment_kernel<Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::evaluator<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >, Eigen::internal::assign_op<int, int>, 0>&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0xa8260)
    #3 0x55c709604d3d in void Eigen::internal::call_dense_assignment_loop<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::internal::assign_op<int, int> >(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&, Eigen::internal::assign_op<int, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0xa4d3d)
    #4 0x55c709601e6e in Eigen::internal::Assignment<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::internal::assign_op<int, int>, Eigen::internal::Dense2Dense, void>::run(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&, Eigen::internal::assign_op<int, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0xa1e6e)
    #5 0x55c7095fe4d4 in void Eigen::internal::call_assignment_no_alias<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::internal::assign_op<int, int> >(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&, Eigen::internal::assign_op<int, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x9e4d4)
    #6 0x55c7095f9846 in void Eigen::internal::call_assignment<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::internal::assign_op<int, int> >(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&, Eigen::internal::assign_op<int, int> const&, Eigen::internal::enable_if<!Eigen::internal::evaluator_assume_aliasing<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::internal::evaluator_traits<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >::Shape>::value, void*>::type) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x99846)
    #7 0x55c7095f3707 in void Eigen::internal::call_assignment<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x93707)
    #8 0x55c7095ebc40 in Eigen::MatrixBase<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >::operator=(Eigen::MatrixBase<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > > const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x8bc40)
    #9 0x55c7095d8b16 in Eigen::MapBase<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, 1>::operator=(Eigen::MapBase<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, 1> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x78b16)
    #10 0x55c7095c8446 in Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >::operator=(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x68446)
    #11 0x55c7095bb7ff in Eigen::SparseLU<Eigen::SparseMatrix<double, 0, int>, Eigen::COLAMDOrdering<int> >::analyzePattern(Eigen::SparseMatrix<double, 0, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x5b7ff)
    #12 0x55c7095b1f30 in Eigen::SparseLU<Eigen::SparseMatrix<double, 0, int>, Eigen::COLAMDOrdering<int> >::compute(Eigen::SparseMatrix<double, 0, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x51f30)
    #13 0x55c7095a73ee in Eigen::SparseLU<Eigen::SparseMatrix<double, 0, int>, Eigen::COLAMDOrdering<int> >::SparseLU(Eigen::SparseMatrix<double, 0, int> const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x473ee)
    #14 0x55c70958bf4c in CotanParametrization(minimesh::mohe::Mesh_connectivity&) /home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/src/minimesh/gui/main.cpp:265
    #15 0x55c70958f710 in freeglutcallback::param_pressed(int) /home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/src/minimesh/gui/main.cpp:467
    #16 0x7fa51dcb6c12 in GLUI_CB::operator()(GLUI_Control*) const /ubc/cs/home/h/hoshyari/code/cartel-ii-public/third-party/glui/code/glui.cpp:120
    #17 0x7fa51dcb5be6 in GLUI_Control::execute_callback() /ubc/cs/home/h/hoshyari/code/cartel-ii-public/third-party/glui/code/glui_control.cpp:999
    #18 0x7fa51dcae9bf in GLUI_Button::mouse_up_handler(int, int, bool) /ubc/cs/home/h/hoshyari/code/cartel-ii-public/third-party/glui/code/glui_button.cpp:85
    #19 0x7fa51dcb7e50 in GLUI_Main::mouse(int, int, int, int) /ubc/cs/home/h/hoshyari/code/cartel-ii-public/third-party/glui/code/glui.cpp:758
    #20 0x7fa51dcb731b in GLUI_Main::mouse_func(int, int, int, int) /ubc/cs/home/h/hoshyari/code/cartel-ii-public/third-party/glui/code/glui.cpp:381
    #21 0x7fa51df85221 in glutMainLoopEvent (/lib/x86_64-linux-gnu/libglut.so.3+0x23221)
    #22 0x7fa51df855d2 in glutMainLoop (/lib/x86_64-linux-gnu/libglut.so.3+0x235d2)
    #23 0x55c709592ab6 in main /home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/src/minimesh/gui/main.cpp:630
    #24 0x7fa51d6fffcf in __libc_start_call_main ../sysdeps/nptl/libc_start_call_main.h:58
    #25 0x7fa51d70007c in __libc_start_main_impl ../csu/libc-start.c:409
    #26 0x55c7095869c4 in _start (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x269c4)

Address 0x7ffcf14d4470 is located in stack of thread T0 at offset 320 in frame
    #0 0x55c7095f3657 in void Eigen::internal::call_assignment<Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > >(Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> >&, Eigen::Map<Eigen::Matrix<int, -1, 1, 0, -1, 1>, 0, Eigen::Stride<0, 0> > const&) (/home/makogan/Documents/Software/CPSC_524/CPSC524-modeling/build-dbg/bin/minimeshgui+0x93657)

  This frame has 1 object(s):
    [32, 33) '<unknown>' <== Memory access at offset 320 overflows this variable
HINT: this may be a false positive if your program uses some custom stack unwind mechanism, swapcontext or vfork
      (longjmp and C++ exceptions *are* supported)
SUMMARY: AddressSanitizer: dynamic-stack-buffer-overflow /usr/include/eigen3/Eigen/src/Core/functors/AssignmentFunctors.h:24 in Eigen::internal::assign_op<int, int>::assignCoeff(int&, int const&) const
Shadow bytes around the buggy address:
  0x10001e292830: 00 f2 f2 f2 f2 f2 00 00 00 f2 f2 f2 f2 f2 00 00
  0x10001e292840: 00 00 f3 f3 f3 f3 00 00 00 00 00 00 00 00 00 00
  0x10001e292850: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
  0x10001e292860: 00 00 00 00 00 00 f1 f1 f1 f1 01 f3 f3 f3 00 00
  0x10001e292870: 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00
=>0x10001e292880: 00 00 00 00 00 00 00 00 ca ca ca ca 00 00[01]cb
  0x10001e292890: cb cb cb cb 00 00 00 00 00 00 00 00 00 00 00 00
  0x10001e2928a0: f1 f1 f1 f1 f1 f1 01 f2 00 00 f2 f2 00 00 f2 f2
  0x10001e2928b0: 00 00 f2 f2 00 00 f2 f2 00 00 f2 f2 00 00 00 f2
  0x10001e2928c0: f2 f2 f2 f2 00 00 00 f2 f2 f2 f2 f2 00 00 00 f3
  0x10001e2928d0: f3 f3 f3 f3 00 00 00 00 00 00 00 00 00 00 00 00
Shadow byte legend (one shadow byte represents 8 application bytes):
  Addressable:           00
  Partially addressable: 01 02 03 04 05 06 07 
  Heap left redzone:       fa
  Freed heap region:       fd
  Stack left redzone:      f1
  Stack mid redzone:       f2
  Stack right redzone:     f3
  Stack after return:      f5
  Stack use after scope:   f8
  Global redzone:          f9
  Global init order:       f6
  Poisoned by user:        f7
  Container overflow:      fc
  Array cookie:            ac
  Intra object redzone:    bb
  ASan internal:           fe
  Left alloca redzone:     ca
  Right alloca redzone:    cb
  Shadow gap:              cc
==7090==ABORTING

The second one does not. I am very confused these 2 things should be borderline identical.

I am on ubuntu 21.10. Using cmake and g++.

标签: c++compilationeigenaddress-sanitizer

解决方案


推荐阅读