سلام فرنوش خانم. واسه چی وقتیکه heirachy رو نیاز ندارید به صورت Mat() خالی می فرستید .نباید اگر نیاز ندارید از signature دوم تابع باید استفاده کنید.
به این صورت اصلاح کنید کد خدتونو
vector <vector<Point>> contours;
Mat src(500,500,CV_8UC1,Scalar::all(0));
circle(src,Point(200,200),200,Scalar::all(255),1);
findContours(src.clone(),contours,CV_RETR_EXTERNAL,CV_CHAIN_APPROX_SIMPLE);