2022-11-29 11:27:58

Automatic Hybrid Genetic Algorithm Based Printed Circuit Board Inspection

Syamsiah Mashohor, Jonathan R. Evans and Ahmet T. Erdogan

School of Engineering and Electronics

University of Edinburgh

Edinburgh EH9 3JL, Scotland, UK

Email: S.Mashohor@sms.ed.ac.uk, {Jonathan.Evans,Ahmet.Erdogan}@ee.ed.ac.uk


The paper presents a novel integrated system in which a number of image processing algorithm are embedded within a Genetic Algorithm (GA) based framework in order to provide an adaptation and better quality analysis with less computational complexity while maintaining flexibility to a broad range of defects. A specially tailored hybrid GA (HGA) is used to estimate geometric transformation of arbitrarily placed Printed Circuit Boards (PCBs) on a conveyor belt without any prior information such as CAD data. A library of image processing functions is accessed by the HGA within an intelligent framework. These functions include operations such as fixed multi-thresholding, Sobel edge-detection, image subtraction and noise filters. The proposed framework allows novel composition of tasks such as edge-detection and thresholding in order to increase defect detection accuracy with low computational time. Our simulations on real PCB images demonstrate that the HGA is robust enough to detect any missing components and cut solder joint with any size and shape with significant reduction in computational time compared to conventional approaches.

1 Introduction

In general, there are four main groups of image registration applications; different viewpoints (multiview analysis), different times (multitemporal analysis), different sensors (multimodal analysis) and scene to model registration [21, 3]. Image registration of a PCB placed arbitrarily on a conveyor belt during inspection is one of the examples of scene to model registration category.

Accurate placement of completed PCBs on a conveyor belt to produce good capture of a boardrsquo;s image is a hard task. Any misorientation of a boardrsquo;s placement may lead to wrong analysis especially for reference-based method [12]. For this reason, this proposed research aims to

estimate the rotation angle and displacement value of a board based on image captured using a specially tailored hybrid GA (HGA) that employs elitism and hill-climbing, while simultaneously detects any physical defects on the inspected board. This technique is based on referential matching between the stored reference image (golden board) and the test (captured) image. For automating the inspection process, other techniques that normally use for accurate positioning of the PCBs under inspection are include mechanical jig [17], automatic X-Y table [19] and manual registration [1].

Object detection is an important intermediate step before object recognition and the goal is to locate and extract regions from an image that may contain potential objects. The number of ways combining primitive operators is almost infinite [13]. Therefore in this application area, many researchers for PCB inspection application use conventional operators such as thresholding, edge-detection, image subtraction and noise filtering. In the context of PCB inspection, the main goal of the segmentation is to simplify the patterns in the PCB layout for further processing and many works are done to improve segmentation operation as discussed in [15, 18, 2].

Advantages of the system presented in this work are calibration is not needed, learning process is not required and it is adaptive to any type of PCB. The system works on a reference (perfect) image that has been stored once and without the aid of CAD data. The system is robust enough to detect missing components and cut solder joints in any shape and size with low noise.

The paper is organized as follows: Section 2 will discuss the integration between HGA module and defect detection procedure, details on simulation environment are presented in Section 3, system performance and discussions are presented in Section 4 while Section 5 concludes the work based on performance.

Proceedings of the First NASA/ESA Conference on Adaptive Hardware and Systems (AHS06)

0-7695-2614-4/06 $20.00 copy; 2006 IEEE

2 Integration implementation

The integration between image registration module and

defect detection procedure has been performed as shown in

Figure 1. Fixed multi-thresholding operation is applied to

a stored reference image and an image of a PCB under test

(test image) to enhance the images and highlight the details

before performing image registration. The thresholding

operation is also essential to deal with variations in

intensity of components on PCB images. The image

registration module employs hybrid GA (HGA) which

contains specially tailored GA based on [6] with elitism and

hill-climbing operation as local optimization agent. The

transformation parameters found by HGA will be passed

to defect detection procedure for next image processing

operations. The test image will be transformed using these

transformation parameters and Sobel edge-detection is

applied to the transformed image while the reference image

is thresholded by multi-thresholding function. Then, image

subtraction is performed on both processed images and

noise in the output image is filtered using window-filtering

and median-filtering. The final image produced by the

system is known as defect detected image which contains

information of possible defects for decision making to reject

or accept the inspected board.

2.1 Hybrid Genetic Algorithm

For this work, real integer coding has been implemented

for this problem consid



Syamsiah Mashohor,Jonathan R. Evans和Ahmet T. Erdogan



爱丁堡EH9 3JL,苏格兰,英国

电子邮件:S.Mashohor@sms.ed.ac.uk,{Jonathan.Evans,Ahmet.Erdogan} @ ee.ed.ac.uk


本文提出了一种新颖的集成系统,其中许多图像处理算法嵌入在基于遗传算法(GA)的框架内,以提供适应性和更好的质量分析,计算复杂度更低,同时保持对广泛缺陷的灵活性。 使用专门定制的混合遗传算法(HGA)来估计传送带上任意放置的印刷电路板(PCB)的几何变换,而无需任何诸如CAD数据之类的先前信息。 图像处理功能库由智能框架内的HGA访问。 这些功能包括固定多阈值,Sobel边缘检测,图像减法和噪声滤波器等操作。 所提出的框架允许诸如边缘检测和阈值处理之类的任务的新颖组合,以便在低计算时间的情况下提高缺陷检测精度。 我们对真实PCB图像的仿真表明,HGA足够强大,足以检测任何缺失的元件,并切割任何尺寸和形状的焊点,与传统方法相比,计算时间显着缩短。

1 介绍

一般来说,有四个主要的图像匹配应用程序组; 不同的观点(多视图分析),不同的时间(多时间分析),不同的传感器(多模态分析)和场景到模型配准[21,3]。 在检查期间任意放置在传送带上的PCB的图像配准是模拟匹配类别的场景之一。

准确地将完成的PCB放置在传送带上以生成拍摄板的图像是一项艰巨的任务。 任何PCB板安置方向的错误定位都可能导致错误的分析,特别是对于基于参考的方法[12]。 出于这个原因,这项研究旨在

根据使用专门定制的混合遗传算法(HGA)捕获的图像估算板的旋转角度和位移值,该算法采用“精英机制”和“爬山技术”,同时检测被检板上的任何物理缺陷。 该技术基于存储的参考图像(黄金板)和测试(捕获)图像之间的参考匹配。 为了使检测过程自动化,通常用于准确定位被检测PCB的其他技术包括机械夹具[17],自动XY工作台[19]和手动匹配[1]。

对象检测是目标识别之前的一个重要中间步骤,目标是从可能包含潜在对象的图像中定位和提取区域。 结合原始算子的方法的数量几乎是无限的[13]。 因此,在这个应用领域中,许多PCB检测应用的研究人员使用传统的算子,例如阈值处理,边缘检测,图像相减和噪声滤波。 在PCB检测的背景下,分割的主要目标是简化PCB布局中的图案以进行进一步处理,并且许多工作都是为了改善分割操作,如[15,18,2]中所述。

在这项工作中提出的系统的优点是不需要校准,不需要学习过程,并且它适应于任何类型的PCB。 该系统在参考(完美)图像上工作,该图像在没有CAD数据的情况下被存储一次。 该系统足够强大,可以检测缺少的元件,并以低噪音切割任何形状和尺寸的焊点。


2 集成实施














操作。 测试图像将使用这些进行转换



被多阈值函数阈值化。 然后,图像







2.1 混合遗传算法






10个像素。 每个人都是一个组合


转型。 搜索这些参数的域

很大(360times;21times;21 = 158760),适合于GA




形象和协议之间的匹配参考 图1.集成系统的流程

图像和测试图像被测量。 转型




解决方案被发现。 适应值被定义为:

如果f(xa,ya)== g(xb,yb),计数器

合格率 =计数器/(Wtimes;H)




xa= xb,ya= yb其中x和y是在x轴和y轴处的像素位置。 W和H分别是参考图像的宽度和高度,因为两个比较的图像是相同的尺寸。 每个人都代表旋转,x轴和y轴位移的转换参数的组合。


下一代的整个种群由当代和前代的迭代地选定个体形成。 这些人根据他们的健身表现进行排名,并选择最适合的人选。 人口将执行遗传算法的各项活动,如选择,变异和交叉,直到满足终止条件。 如果找到具有可接受的近似解的个体或达到最大代数,则GA搜索将被终止。

在每次迭代中,保留上一代最好的5%的个体。 剩下的95%来自所有GA操作执行后排名最高的个人。

对于“爬山过程”[14],它利用最佳解决方案进行可能的改进,为每一组GA搜索设置一个生成限度l。 此限制是同一个人被认定为最适合个人的次数。 如果达到限制,将执行爬山。 当前世代的适合个体将被选择用于这个过程,其中每个转换值(旋转,x和y位移)将按顺序递增和递减一个单位。 将对这些修改进行评估,以检查可能取代当前解决方案的适应性值。 除非在“爬山”期间发现更好的个体,否则GA搜索将以当前的解决方案终止。 如果继续搜索,当再次达到限制时将重复“爬山过程”。

2.2 缺陷检测程序

2.2.1 细分分析

PCB由不同材料和颜色的部件构成。 因此,为了检测物理缺陷的存在,需要对多区域进行分割以将这些元素分离在捕获的图像内。 现有的自动图像分割方法可分为四种方法,即1)阈值处理,2)基于边界,3)基于区域,4)混合[5]。 在这


使用三个灰度级区域的多阈值[16,4]的阈值处理方法是使用从0到255的灰度值范围中选择的阈值来实现的。这些阈值经仔细选择以获得最佳结果,对象以及对象和背景之间。 印刷在被检查的PCB上的所有信息在决策阶段保留以备将来参考也很重要。

基于边界的使用梯度算子的分割方法经常用于工业检测,以帮助人们检测缺陷或作为自动检测中的预处理步骤[7]。 在平坦的灰色区域中增强小的不连续性的能力是梯度的一个重要特征。 Sobel边缘检测是流行的梯度算子之一,因为它能够准确检测边缘以创建边界。 Sobel算子对图像执行二维空间梯度测量,因此强调对应于边缘的高空间梯度区域。 通常用于查找输入灰度图像中每个点处的近似绝对梯度大小。

在此分割操作中,基于视觉观察来选择阈值,而在Sobel边缘检测中实施因子0.3以减少斑点或噪声。 图2显示了Sobel边缘检测中不同因子值的影响,其中0.3的因子产生最清晰的低噪声边缘。

2.2.2 缺陷定位

使用图像相减操作来提取参考图像和测试图像之间的差异需要缺陷定位操作。 该概念已被[9,11]证明,并且该操作直接应用于阈值参考图像和边缘检测测试图像。 在参考图像和测试图像之间执行图像相减,分别表示为图像g和图像f。 这些图像的差异称为图像d,它继承了输入图像的大小。 这个操作被描述为

其中g(x,y)是图像g的像素强度,f(x,y)是图像f的像素强度,d(x,y)是图像d的像素强度。 像素位置表示为x轴表示y轴,y表示y轴。

(a)因子1.0 (b)因子0.8 (c)0.5的因子 (d)0.3的因子 (e)因子0.1


2.2.3 噪音消除操作

噪声消除是计算机视觉和图像处理中的一个主要问题,因为图像中的任何噪声都会提供误导信息并导致严重错误。 噪声可能来自各种来源的图像:在采集过程中,由于相机的质量和分辨率以及采集条件,如照度,校准和定位[20]等原因。 在这种情况下,噪声的发生主要是由于旋转操作引起的图像重新定位期间像素强度的不变性。 可能会发生检查图像信息的丢失,并且还会导致检查过程中出现错误警报。

为了克服这个问题,在这个过程中已经使用了使用窗口滤波的噪声消除技术[10]。 窗口过滤技术还能够突出显示组件的标识信息(例如:IC标识号)。

该操作通过在输入图像内逐行移动小窗口来执行。 对于窗口覆盖的每个像素,计算强度值为0的像素。 计数器值将与每个窗口大小的阈值window_threshold的值进行比较。 在这项工作中,为3x3像素的窗口大小设置了4的阈值。 窗口过滤的这些阈值决定了窗口内噪声消除的灵敏度。 阈值越高,可以过滤的噪音越少,但可能会丢失少量细节。 如果计数器超过窗口阈值,则输入图像中窗口中心像素的相同位置处的输出图像中的像素将被设置为值255.否则,将为该对应像素设置值0输出图像。 这个过程将被重复,直到输入图像中的所有像素都被窗口过滤为止。

在窗滤波阶段之后,使用在非线性类别中最佳已知滤波器的中值滤波器来消除剩余噪声并保留图像中包含的空间细节。 滤镜将用邻域中的灰度级的中值代替像素的值

该像素(像素的原始值包含在中值的计算中)[7]。 它非常受欢迎,因为它具有出色的降噪功能,在可接受的计算时间内模糊程度较低。

3 仿真环境

该集成系统的研究在基于Linux的PC上进行,PCB的图像使用黑白CCD照相机拍摄。 使用NetPBM图像库[8]以C语言编写基本图像处理函数,如多全局阈值[7]和变换。

(a) (b)



(a) (b) (c)

(d) (e) (f)

图4.测试图像的样本。 每个测试图像都用已知的值进行变换,有些则有人为缺陷。

在每种情况下,参考图像旋转0到359度范围内的随机值,并在-10和10像素之间的x轴和y轴上随机平移。 在仿真中使用三种类型的PCB,参考图像如图3所示。从这些参考图像创建20个测试图像样本。 图4中显示了一些测试图像的样本。

所有测试图像都用已知的值进行转换,其中一些测试图像具有人为缺陷,如缺少组件和切割焊点。 每个测试图像重复20次模拟。 从图3(a),3(b)和3(c)分别显示的参考图像创建类型1(T1),类型2(T2)和类型3(T3)的测试图像。 在下面的实验中,HGA参数是:最大生成数为200,种群大小为50,交叉概率为0.5,变异概率为0.01,5%由“精英机制”和“爬山过程”的限制


4 系统性能和讨论

根据图5,HGA在所有模拟中成功找到了0.89到0.99之间的最大适应度均值。 基于这些发现,很显然,这种专门定制的HGA非常适合于通过对1型和2型测试图像进​​行仿真而准确记录高密度PCB .3型测试图像的仿真收敛性稍低到其他类型的测试图像。 这已经被调查,并且已经发现用于缺乏特征的健身评



您需要先支付 30元 才能查看全部内容!立即支付