背景:pyqt5无法显示opencv绘制的标签和mask;我们在使用YOLO做实例分割做推理时,会使用opencv做后处理结果绘制(含标签绘制和掩码绘制);结果opencv绘制的解码却无法在pyqt的解码上面显示。pyqt转换代码如下:
def convert_frame_to_pixmap(self, frame):
"""将OpenCV帧转换为QPixmap,特别优化mask显示"""
if frame is None:
return QPixmap()
# 转换颜色空间(OpenCV的BGR转Qt的RGB)
frame_rgb = cv2.cvtColor(frame, cv2.COLOR_BGR2RGB)
# 确保数据类型正确
if frame_rgb.dtype != np.uint8:
frame_rgb = cv2.normalize(
frame_rgb, None, 0, 255, cv2.NORM_MINMAX, dtype=cv2.CV_8U
)
# 确保内存连续性
if not frame_rgb.flags.contiguous:
frame_rgb = np.ascontiguousarray(frame_rgb)
h, w, c = frame_rgb.shape
# 创建QImage - 使用更可靠的参数
qimg = QImage(
frame_rgb.data,
w,
h,
frame_rgb.strides[0], # 直接使用数组的步长
QImage.Format_RGB888
)
# 确保图像不被修改时共享数据,提高性能
qimg = qimg.copy()
# 转换为QPixmap并按比例缩放
pixmap = QPixmap.fromImage(qimg)
return pixmap.scaled(
self.display_label.width(),
self.display_label.height(),
Qt.KeepAspectRatio,
Qt.SmoothTransformation
)
解决: 在使用opencv的imshow可视化看到标签和掩码的结果后,把问题定位在转换和传输。
如果要在qyqt上面显示,首先需要通过pyqt的yqtSignal函数将opencv处理后的帧数据进行传输,然后再将其转换为pyqt的QPixmap。
在转换阶段排查了很久,后来发现不是这个问题。然后问题就定位到传输中和传输前。传输中也不可能,因为能够显示图像,只是无法显示标签和掩码。
来到转换前,这部分的实现是通过处理函数先处理,再将处理后的帧数据传给pyqt的信号槽。最开始是这样实现的:
self.process_frame(frame)
self.update_frame_signal.emit(frame)
self.process_finished_signal.emit()
打断点测试,发现问题出在这,因为frame数据的标签和掩码在传给信号槽之前会丢失。于是改变写法,换成下面这种更加稳健的写法,就把这个问题解决了。当然这是我代码实现的疏忽。
frame, results = self.process_frame(frame)
self.update_frame_signal.emit(frame)
self.process_finished_signal.emit()