image segmentation by data-driven markov chain monte …sczhu/papers/ddmcmc_reprint.pdfimage...

17
Image Segmentation by Data-Driven Markov Chain Monte Carlo Zhuowen Tu and Song-Chun Zhu AbstractÐThis paper presents a computational paradigm called Data-Driven Markov Chain Monte Carlo DDMCMC) for image segmentation in the Bayesian statistical framework. The paper contributes to image segmentation in four aspects. First, it designs efficient and well-balanced Markov Chain dynamics to explore the complex solution space and, thus, achieves a nearly global optimal solution independent of initial segmentations. Second, it presents a mathematical principle and a K-adventurers algorithm for computing multiple distinct solutions from the Markov chain sequence and, thus, it incorporates intrinsic ambiguities in image segmentation. Third, it utilizes data-driven bottom-up) techniques, such as clustering and edge detection, to compute importance proposal probabilities, which drive the Markov chain dynamics and achieve tremendous speedup in comparison to the traditional jump- diffusion methods [12], [11]. Fourth, the DDMCMC paradigm provides a unifying framework in which the role of many existing segmentation algorithms, such as, edge detection, clustering, region growing, split-merge, snake/balloon, and region competition, are revealed as either realizing Markov chain dynamics or computing importance proposal probabilities. Thus, the DDMCMC paradigm combines and generalizes these segmentation methods in a principled way. The DDMCMC paradigm adopts seven parametric and nonparametric image models for intensity and color at various regions. We test the DDMCMC paradigm extensively on both color and gray-level images and some results are reported in this paper. Index TermsÐImage segmentation, Markov Chain Monte Carlo, region competition, data clustering, edge detection, Markov random field. æ 1 INTRODUCTION I MAGE segmentation is a long standing problem in computer vision and it is found difficult and challenging for two main reasons. The first challenge is the fundamental complexity of modeling a vast amount of visual patterns that appear in generic images. The objective of image segmentation is to parse an image into its constituent components. The latter are various stochastic processes, such as attributed points, lines, curves, textures, lighting variations, and deformable objects. Thus, a segmentation algorithm must incorporate many families of image models and its performance is upper bounded by the accuracy of its image models. The second challenge is the intrinsic ambiguities in image perception, especially when there is no specific task to guide the attention. Real world images are fundamentally ambiguous and our perception of an image changes over time. Furthermore, an image often demonstrates details at multiple scales. Thus, the more one looks at an image, the more one sees. Therefore, it must be wrong to think that a segmentation algorithm outputs only one result. In our opinion, image segmentation should be considered a computing process not a vision task. It should output multiple distinct solutions dynamically and endlessly so that these solutions ªbest preserveº the intrinsic ambiguity. Motivated by the above two observations, we present a stochastic computing paradigm called data-driven Markov chain Monte Carlo DDMCMC) for image segmentation. We proceed in five steps. First, we formulate the problem in a Bayesian/MDL framework [15], [14], [29] with seven families of image models which compete to explain various visual patterns in an image, for example, flat regions, clutter, texture, smooth shading, etc. Second, we decompose the solution space into a union of many subspaces of varying dimensions and each subspace is a product of a number of subspaces for the image partition and image models see Fig. 3 for a space structure). The Bayesian posterior probability is distributed over such a heterogeneously structured space. Third, we design ergodic Markov chains to explore the solution space and sample the posterior probability. The Markov chains consist of two types of dynamics: jumps and diffusion. The jump dynamics simulate reversible split-and- merge and model switching. The diffusion dynamics simulate boundary deformation, region growing, region competition [29], and model adaptation. We make the split and merge processes reversible and the ergodicity and reversibility enable the algorithm to achieve nearly global optimal solution independent of initial segmentation condi- tions. Thus, this demonstrates major progress over the previous region competition algorithm Zhu and Yuille) [29]. Fourth, we utilize data-driven techniques to guide the Markov chain search and, thus, achieves tremendous speed- up in comparison to previous MCMC algorithms [10], [12], [11]. In the literature, there are various techniques for improving the Markov chain speed, such as multiresolution approaches [28], [3], causal Markov models [3], [22], and clustering [28], [27], [2], [9]. In our DDMCMC paradigm, data- driven methods, such as edge detection [4] and tracing, data clustering [5], [6] are used. The results of these algorithms are expressed as weighted samples or particles), which encode nonparametric probabilities in various subspaces. These probabilities, respectively, approximate the marginal IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL. 24, NO. 5, MAY 2002 657 . The authors are with the Department of Computer and Information Science, Ohio State University, 2015 Neil Ave., Columbus, OH 43210. E-mail: {ztu, szhu}@cis.ohio-state.edu. Manuscript received 7 June 2001; accepted 26 Nov. 2001. Recommended for acceptance by D. Forsyth. For information on obtaining reprints of this article, please send e-mail to: [email protected], and reference IEEECS Log Number 114320. 0162-8828/02/$17.00 ß 2002 IEEE

Upload: others

Post on 02-Mar-2020

7 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

����� ���������� �� ���� ��������� ���� ���� ����

������ �� ��� �������� ���

������������ ����� �������� � ���������� ������� ������ ���������� ����� ��� ��� ���� ��� � �� �������������� � ��� ������ ��������� ��������! ��� ����� ��������� � ���� ���������� � ��� �������! "���# � ������

������� ��� ������������� ����� ���� ������� � �$���� ��� �����$ ����� ����� ���# ����# ������� � ������ ����� �����

����� ���������� � ���� �����������! �����# � �������� � ����������� ������� ��� � ������������ ������� ��

������� ������� ������ ������ ��� ��� ����� ���� ��%����� ���# ����# � ��������� ������ �������� � ��������������! ����# � ���&�� ���������� '�������( �����%���# ���� �� ��������� ��� ���� �������# � ������ ��������

������ ���������# ���� ���� ��� ����� ���� ������� ��� ������ ��������� ������� � ������� � ��� �������� )����

������ ������ *+,-# *++-! "����# ��� ���� ������� ������ � ������ �������� � ���� ��� ��� � ���� �$����

���������� ��������# ���� ��# ���� �������# ���������# ���� �����# ����������# �����.�����# ��� ���� �������# ����������� �� ����� ����&�� ����� ���� ������� � ������� �������� ������ ���������! ����# ��� ���� �������

������ ��� �������&�� ����� ���������� ������ � � �������� ���! ��� ���� ������� ����� ����� ��������� ���

����������� ���� ����� �� ������� ��� ��� �� ����� �����! /� ���� ��� ���� ������� �$�������� � ��� ��� ������������� ����� ��� ��� ������� ��� ������� � ��� �����!

��� ���������� ����������# ����� ���� ���� ����# ���� �������# ���� ���������# ���� �������# ����� �����

����!

� �� ����� ���

����� ������� � � � ��� ���� ������� �������� � � �� � � ����� �� ���� �� ������� � ��� ����

���������� � ��� �������� � ��� �������� ������ �� ��

���� � � ���� ���� �� � ���� ������� ���� ������ ���� � ����� ��� ������ �� �� ��� ������� � � ������� � ��� �� �� ���� ���� �������� ��� ��������� ��� ��� �������� � ���������� ���� �� ���� ����� �� ���� ��� ������� ��������� � ��� � ��� �� ��� �� ����������������� ����� � ������� � ����� �� ��� ����������� �� � �� �� ��� ����� �� �� ��������� ������ ������ �� ��� �������� �� �� ��� ������

��� ����� �������� � ��� �� � � �� �� � �� ��� ������� �� ����� ���� ��� ����� � � ���� � � ��� �� �� �� ��� ����� �� !��� ����� ���� ��� ������������ ����� �� ��� ������� � �� � ��� ������ ����� �� "���������� � ��� ���� ���������� ���� �� ����� ��� ������� ����� ��� ��� �� ��� � �� � ���� ������ �� ����� ���������� � ��� �� ���� �� �� ���� �������� � ����� �� ������� ��� �� ������� � ����� �� ��� ������� � ������ �� ��� ����� �������� ����� �� � � � � �� �� �� ������ ������ ��� ���� �� �� ����� �� ���������� �� ���� �� �� ���� ���������� �� #���� ��������$ ��� �� � � �� �� ���

��� ����� �� ��� ����� ��� �������� ��� �� ������ ��������� � ����� � ����� � ������ ���������� ���������� ���� ����� %&&�'�'( ��� ��� ������� �� )�������� � �� ������

" ���� �� �������� ��� ������ � *���� �+�&,������� -./0� -.10� -230 � �� ���� �� � �� �� �������� �� �� ������ �� ����� ��� ��� � ���� ������� � ���� ��� ������� ���� ��� ��� �������� �������� ��������� �� ����

4����� �� �������� ��� ����� � ����� �� � � � ���� ��������� �� ���� � � �� �� �� ���� �������� � � ������� �� � ���� �� ��������� ��� ��� ������� � � �� ��� ����� %��� " �� 5 ��� � ����� ���������(���� *���� � ������ �� ������ � �� � � ��� ����� ���� ����� �������������� ���������� ������

�� ��� �� ��� � ����� � ��� �� ��� � �� ������� �������� � ����� �� ����� ��� ������ �� ������ � ��� ������ �� ��� � ��� �� �� ��� ����� �� ��� ��6 ���� ��� ���� �� ��� ��� ��� �� � ����� ����� ���� ��� �7��7���� �� ���� �� ��� �� ��� � ���� � ��� ��� ����� ������� ������� �� ��� � ���� �� ��� ������ � � -230� �� ���� ������� �� )� � � ��� ��� ��� ���� ��������� ������ ��� �� ��� ����� � �� �������� � � �� ����� ��� ����� �� �� ��� ��� ����� ��������� �� ����� � ������� �� � �� ������� � ��� 7� ��� ����� �� � ���������� ���� �������� ���� ������� ��� ��� � ����� � � ����� �� %8�� �� 9� ���( -230�

"������ �� �� � :� ����7�� �� ���� ;��� �� �� �� ������ �� ��� ������ ��� ����� ��� ���� �������� �����7�� ����� �� �� ���� ��� �'�' ����� ��� -.<0� -.20�-..0� � ��� � ��������� ����� ��� ��� ��� ���� ;��� ��� ���� � ��� ��� �� ��� ������ ���� �� ��� ������� ����������� -2=0� -50� ������ ��� �� ����� -50� -220� ��������� � -2=0� -2>0� -20� -30� ����&&�'�'����� ������7�� �� ������� ���� �� ���� ������ � -10 �� ���� �� ����������� � -/0� -?0 ��� ����� ��� ������� �� ����� ����� ��� ������������ �� �� ����� ������ %�� ���� ����(� �� ������� �������� � ������ � � �� ��� ��� ��������������� ������ � � ��� ������� ����� ������ ��� ��� ��� ��

�000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==, ><?

� ��� ������ ��� ���� ��� ��������� �� �������� �� ���������������� ���� ����� ���� ���� !"#$ %��� &��'� ������� � �( )*!#"'+�����, -.��� .��/0�� '����� ����'���'

��� ����� �������� 1 2�� !""#3 �������� !4 %��' !""#'5��������� ��� ��������� �� �' 6�� ���'6�� ��������� � ������ ������ �� ��� �������� ���� � �� ������ ��,�����0��������'��� �� �������� �+++�� 7� %����� ##)*!"'

=+>,�@@,@.=,.A+?!== � ,==, �000

Page 2: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

������ � � �� �� ��� *���� � ������ �� ������ � �� �� ������� ���� �� ��� � ������� �������� ������ � � �� �� �� ����� ��� �� ��� ��

" ���� �� ������� � ������ ��� �� � ��� �� �#87����������$ ����� �� ��� ������ � �� ��� � � ����� �������� �� �� ���� ����� �� ��� ��� ��� �� ��� ��;���� �� �� ��� ��� ������ �� ���� ��� ��� ��� ������� �� ����� � ������ �� � �� ��� *���� � ������7 �� ������ � ��� ��� ��� ��� ����� �� ��� ������� �� :� � @������ 7,� ���� � ������� ��� ��� ������7 �� �� ������ �� �� ��� ���� ������ �� �� ���� �������� ����� �� � �� ��� ������� ��

� ������ ��� &&�'�' ����� � � ����� �����7� ���� ����� � ���� ���� %�� �����7�� ������� �+���������� �(� ����� � ���� ���� %�� ������� ���������(��� ��� � ���� ���� %�� � @7���������� ����� ��( ������� ���� ���� �������� ���������� �� ��� ��� ��� ���7� � �� ��� ����� � ������

'����������� ��� &&�'�' ����� � ���� ������� �������� �� ��� ����7 �� ������� � ����� ���� ����7� ��� ���� �� ��� �7��7����� ��� � ���� �� 4� � -.50�� ������+������ -2/0� ��� � ����� � � -230� ����� �� ��� ������ -.10� �� A&�� -210 �� �� � ���� ����� ��� �'�' ���7� ���� � ��� �� � �� �� ��7 � ��� ��� B���� ����� ���� ���� �� ���� ������ � -10 ��������� � -?0� -=0 ������ ��������������� ������ � � ���

)� ���� ��� ����� �� � � � �� ��� ��� �� ����7����� ������� ���� �� ��� ������� ��� ���� ��� ������ )����� ��������� ��� ��� ����� �� �� ��� �� ��� ����7��� � ������� �� ������ : � %���������� �( ����������� ���� � ��� � �� ���� ������

� ������� ������� ��� ��� ����� ������

� �� � ���� �� �� �������� ��� ������ � *���� �������� �� � ����� ��� �� �� �� � �� ���� ����� ������� �������� ��� ����� ����

��� � ��!��"� �#��$%��"# &#� ��'�����"#

,�� � � ���� �� � � � � � �� � � � � �� �� � ��� ���� ���� �� � ��� ��� �� � �� "�� �� �� � � � �� �� ���� � � � � �� � ��� � ��� ��� �� ��� � ����7����� ���� ���� � ���� ��� �� ��� � ����� ����. ��� ������ �� ���������� � ������ �� ���� � � � ��� ���� �� �� �� �� ���� �� � ��� � ��� ��

� � ������� �� �� � � �� �� �� ������� ��� � � � ���� �� �� �� ������� ��� ����� �������� �� )� ����� �� �� � �� ��� ������� �� ��� �� ��� ��� ���� ��� �� ��� ���� �� ��� ���� ������������ ��� � ��������� B� ������ � ��� � � � �� � � ����������� �� �� ��� ����� ������ � ��� � ������� ���� � ��� � ��� ���� ������ �������� :�� �� �� ��� ��� 7���� ���������� � � ���� �� ��� � ���� �� �� �� �������� �� ���������� � � ������ ��� � �� � ������������ ��� ����� ��� ����� -250� -210 ���� ��� � ����������� ������ ��� ����

���� ��� ��� � �� � �������� �� �� ������� ������� ���� �� � � �����.���� ���� � ��������� �������� ����� ������������� � �������� � ������� ����� ���� � ����� �� ��

����� � ������� � � ������ �� � ������ �� � ������ ������ � �� �� ����� ��� ��� ����� ����� ��� ������ ���� ��� ��

� � �� ����� ������� � � �� � � � � � ���� � *���� � ������� � �� � � ������ ����� �

��� � ���� � ����� � ����� �

� � ��� ��� � ��������� �� � � �

�� �� �� ��� ������� ��� � ��� �������� ������7� � � �� ���� ���� �� � ��� ������ � ��� ������ �� ���� ���� � ����� ��� �� �� �� � �� ���� ����� �������� ��� ����� ����

��� � ��"#� ��#���"%"�! ��� ���� �� �� ������ � �� ���� � � ������� �� ��� ������ ����� ������ � � ���

�� � ������ �� ���� ��� ��� ���� �� ��� ����� � ���� �

�� � ������ �������� � ��� �� �� ��� ��� ��� ������� �� ���� � �

�������

�� � ���� ��� ��� � :� �� ���� ��� �� !������� ������ � ��� �� ������� ��� ���� �� -.0� -.?0 � ������� �� �� �� ������ ���� � ���� ���� ��� � :� �� ���� � � � ��� ������ ���� ������� � � ��� ��7� �� ���� � �

�� � � � ��� 4��� ��� �� ��������� �������� �� �� ���� � ��� ����� ���� �� ���� �� ��� �� � �� ����� ����� �� ������ ����� ��� ��C ����� �� �� � � � ��� ��� �

���� � �����

� ������� � � ��� � � ������� � � � ����� ������ �� ��������� ��� ����� �� ��� ������� �� �� � ����������� � �� � � � ��� �� ��� #������� ������$ ������ ������ �� � ��� -2<0 ����� � ������ ����� �� � � � ����� ��� ��� #����$ � ��� ��� ��� ����� ���� � � ��� ����� ��� �� � � �� �� ���� ��� ���� �������� �� � ������

�� ��� �� �� ��� ��� ���� �� ���� ���� � ������ �� ��� ��� �� ��� �� �� ��� ��� ��������� � �� � ��� ���� ���� :�� ���� ������ �� ���� ����� ���� �� ��������� �� ������ � �������

� ������ �� ���� ��� ������ � �� �� ����

���� � �������

������������������

� � � ��� �����

� ��

��� ������ � ������ �� �

��( � �")�%" ## ����� � &#� ���!*��+�% ���'��D ���� ������� � ������ ��� �� ��� ������ ���� ������� �������� � ��������� ���� � �� ������ ���� � � �� � � � � � � ����� ��� � �� ���� ��2

����� � �����

������ ��� ����

><@ �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

.� )� ������� ��� %!� �� *( ���������� � �� %��� ��� ��( ��� ������ ������ ����� �������

2� �� � �� ��� ���� � ���� ��� �� �� � ����� �� � ���� �� ����������� � ��� ��� ����� � )� ��� ������ �� ���� � ����� �� ��� � �� � ���

Page 3: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

��� ��� �� �� ����� ���� �� ������ ���� ���� � ����� ������� ��� ��� � ���� � ����� � � ����� ��� ������ ���� ���� ���� ����� �� ��� �� ������ ��� ���;����� ���� ����� ����� " �� . ����� ������� ��� ��� ��������� �� ��� �� � ����6 " �� .� ����� ��� ���� ��� ��� �� � � �� �� ��� ����������� " �� .� ����� ������������ ��� ��� " �� .� ����� ��� ��� �� � �� ���7������ ��������� �� " �� .� ����� ��� ������������ �� � �� �������� ����� ���� � ��� �� ���

)� ����� ��� ������ � ���� �� � �� �� ����� ��� ������� ����� �� ��� ��� ��� ����� �� �� �� ��� ��������� �� ��� �� ��� ����� ��� ���� �� � �� ��� ������� � � ���� �� ��� ��� �� ������ �� ��� � �� � ��� � �� ��� �������� ����� ,�� ������ �� � ����� � ��� �� ������� ��� � �� ��� ��� ��

�� ���� ����� ��� ������ � � ��6 ��� � �� � ���������� � ��� ��� � �� � ��� � � ��� ������� �� ��������� �� ��� ����� � ��� ����� % �(����� � � ��� ��� ��

����� �� ��� �����

���� � ����� � � ��� �� � ��� �

���

�� ���� ����� ��� ������ � � �6 �� � �� � � ��������� � ��� �� � ������ ���� � ����� ����� � � ����� :�� �� � ���� ���� � ��������� �� ������� ���� ��� � � � � ���� ,�� � �� ��� ���� �� � ���� � � �� ��� �� ����� ��

����� �� �� �����

����� ������

� �� �

� � ���� ��� � � � � ��� � �� �

���

�� ���� �������� ������ � � ��6��� � �� � � � ����������� "!��� -5<0 � �� � ��� ������ �� ���������� � ��� �� ����� � ������ �� � �� �� �� ����� ������������� �� �� ���� � �� ���� : � � � ����� ��� �� ������� �������� �� ��� � ���� ��� ������7� �� �� ������ � ��� �� � ��� � ����� �� �������� ������� ������� �� ���� ��� -5.0� ��� ���� ����� � �� �� � ��� ������ � � �!�� !� � � � � !"� � ��� �" � ��� ����� ���� �� � � ��� � ������� �� ���� �������� � ������ ����� ,�� ������ ������ ��� ��������� �� � � � �� ������ �� ��� ������ ���� � � ��� ����� � ������� �� � ���� �������� ��� � ��������� �� � ��� �� ���� �� ��� � ����� ������� ����� ��� � ���� �������� �� � ���� ������ ���� � ���� ����� �� ����� �� ����

����� �� ��� �����

������ �� ��

�����

#�� ��� $ �������� �� %��

���

����� $ �� � % � ��� �� ������� ������ ���������� �� ��� ���� � ��� ����� �������� ����� ����� ��� ����� � ��� ������� �� ����������� � � ��� ���6 ��� ���� : � ������ ���� ������� ������� �� � �� �� ��� ���� ��� ����� ����� )� ����� �� � ����� ����� -5.0 ���� ����� �� � ��� ������� � �� �� � ���� �� ����� �� ��� ���� �� ����� � �� ����� ����

�� ���� ����� ��� ������ � � ��6 ��� � ��� � ��� ������� � �� �� ����� ��� ���������� �� �� �� � ��������� : � ��� �� � �� ���� � �������� ���� ��� �� �� �� ����� �������� �� �������� ���� � ���� ��������� ���� ����� ��� �� ��� ���� �������� ��� ����� ��� �� ���� � ����� �� �� ��� ���� ���� ��� ��������� ������ ���� ������� ���� ���� �� ����7������� �� � ��� ����� 7���� �� ����� � 2& *�: ��7��� � ���� � ��� ���� �;����� ������ ������ �� �� � � % ���� ��� � ��� ���(� �� � � � ������ �� ���� ����� ,��&�'� (� �� ��� *�: �� �������� ��� �� � � �'� (� � ��

&�'� (� � �)�'� �* � ��(�� ���

�����

��'� � ���� '��� �'��� '�� �'��� '�� '���)

��

* � �"��� "��"���"��� � � � �"��� � � � �"�������������� ��� ��� ���� ��� � ��� � � ��

����� �� ��� �����

���� �&����� � � �*��� � ��� �

���

� ������ ���� ����� �� ����� ������ �� ����� ����� ��� �� ��� ��)������ � �� ��� ��� � ������� �� ����� � ���� � �� ����� )� ����� �� ��

� ��� ����7����� ����������

� � ��� � ��� ��� ���� ���� �

��, �#�% ��%"����"#��� ���� ��� ����� ������ �� ��� ������ ��� ��� �������" ���� ��� ������� ��� ��� � ���� �� ������ � ��� ������ �� ���� ���������� E������� ���� : � ��� ���� ��

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 ><E

"�! +! "�� ����� � ����� � ��� ����� ��� ������ � ���� ���� �����C '�( �����# '�( �������# '�( ��$����# ��� '�( ������!

Page 4: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

��������� � �� ����� ����� ���)�� � ��� � � �� � :����� � ��� � ����� ��� ���� ��� �� ���� ��� �� �� ������� ��� ������ ������ 4����� ��� ������� �� 7���� ����� �� �� ��� ��� �� � ���� � �� ���� �� ��������� � � ������ � � � ���������C ���� ���� ��� ��� ������ ��������� �� ��� ����� ����� ����� �� ������

�� ��� ����� ��� � �� ���� ������ � � ��� �� � � ��� � ��� ������ )� ��������� � ��� �� ��� ��� ��� �� ��������� ���� �� ������ � � ��� ��� �� ����������� ��� "�� ������� " �� 2 ����� ���� ��� ��� ���� ��� � ��� ����� �� �� ��� ������� ��� ��� ���� " �� .� )� ����� ��� ���� ���� �� ����� � � � �� � �� � � ����� �� �+� "�� ���� ��� ����� � �� ������ �� ��� � ������ � ����� % �� ���7� �� ����( ������ � �� ���� �� ���� � �� �� �� ��� ������� �� � �� �� �� ���� ��� �� � ��� � � �� � �� ��

��� � ��������

� ��� ������� � �� �����+� � ��� � � �� � � �� ���

)� ����� �� ���� � ��� ��� �� � � � �� ���� �� �� ������ � ��� ��� ����� %������ �( ��� ���� � ���� �����

������ � ���� ����� ���� ��� � � �� � � ��

)� ���� ����� � ������ � �� ��� " �� 2 ��� � � �� � � ��

��� ������� " �� 2 ���� ���� ��� ��� � ���� ������ ����� ��� �������� ��� � ����� ��� ��� ���� � ��� ���� �� ��� ������� ���� � �� ��� ���� ��� ��� ����� �������� ��� ���� �� ������ �� ���� �� ����� ����� �� ������� ������ ���� ��� ���� � ��� ��

����� �� ��� � ����� �� ������� ��� � � �� � �� ��

��� � � �� � �� � ��� ����� �� ���� ��� ���� � �� ��� ������ ��� ������� � ��� � � �� ���� �� � ������ ��� ������� ��� ��� ������� ��� ��� �� ���� ���� �� ��� ���� � ���� �� ��� ����� ��� �� ��� ����� ������� �����

��- ���'� �#�%� &#� �#%#�� ����� ���� �� ��� � ���� ����7����� �� ����� ����� "�� ����� ����� �� ����� � ���� ��� ��� ���������� �� ������� ����� �� � �� �� ����� ����� ��� � ���� �� ���� ,�� ����!� ����� � 5& ����� � ��� ���

�� �� ����� ��� ������ ��6 ��� � �� � � � ������ � ���� ���� ��� ��� ������

����� �� ��� �����

���� � ��� !�� � � ����!� � ��� �

���

�� �� �������� ������ �6�� � �� � � � ����� ���������� ���� ����� ������� � ���������������� ���

����� �� �� ������������ � ���� !��

� ����� � ��� !��������

� � ���� ����!�� �� ���!� � ��

��� ��� ����������

�� �� ����� ��� ������ ��6 ��� � )� ��� �����*�: �� ��� � �������� %��� %?(( ��� ��� ��� �� ���������� ����� �� ��������� :� ��� �� � �� ������������� � ������ ���� �� � �� ����� ���� ,�� ��'� (� ����� ����� ����� ���� ��� ��� ����� ��� ��� � �'� (� � ��

��'� (� ���)�'� �*� � ��(�� �)

�'� �*� � ��(��

�)�'� �*� � ��(��) �

����� ��� ���� �

����� �� ��� �����

���� ���� !��

����� � � �*��*��*��!� ��� ��� ����������� ������ ����� ����� �� ����� ������ �� ����� �

����� ��� �� )������ � �� ��� ��� � ������ � �� ���� � ����� �� ����� )� ����� �� ��

� ��� ����� ���� ������ ���

��� � ��� ��� ���� �

( ��� ��. �� ���� ��� �����*����� �� ��� � � ����� ��� �� ��� �� ����� ������������� �� ��� ����� � ����� �� �� ��� ������ �������� � �� ��� ��� � � ��� ������

)� ����� � �� ��� �������� ���� ��� ��� ���� ��� ���� � ���� � ���� �� �� )�� � ���� �� � � ������� �� � � ��� ���� ��� �� ���� � � ���������� ������ �� ,-�

,- � ���� �� � � � � �-�� �-����� � �� �� �� � � �� �� ��

����

>>= �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! ,! ������� ����� � ��� ������ � �����! ��� ���� ����� ���� ����� ���� ����� ������ ��� ��� ���� ���� ����� ���� �"�! +! ��� ����� � ��� ,�< ������ ��� �������&�� ����� ������ ������ ����� ������� ��� ��� ��� ������# �����������# ���� ����� ���60 �����! ��� ������ ���� ���� �������&�� ���� ���� ��� �����$�� ���� ��� ��� ���� ���� ����� � ����!

Page 5: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

�� ��� � ���� ���� ��� ���� �������� ���,- � � ������������� ���� � � -2=0� ��� ��� �� ��� �7���� � ��� ���������,- � � � ;��� �� ����� �� ��� ��� �� ��� ���� ��� �7����� ��� � ��� �� � ������� � ����� �� ��� ��� �������

�,- � ����� �� � � � � �-� � ,-�

���� % �� �� � �� � � � � � -�.��� ����

����� �� ���� � ������ ���� � � ������, � �� ��� ������ ��� �� � � - � ����

�, � ����-���,-�

���� ��� ����� � ����� ���� � � � � �� ��������� -

�� ���� - � � ������� �� �� �7���� � � ����� �,- ��� ������ ��� ��� ��� �����

� ����-��- � ����-�� �,- ��� � � � � ����� -

��

��� ���

����� �� � �������� ��� ����7����� ���� �� �� �

�������� ��� ����� �����" �� 5 ���������� ��� ���������� �� ��� ����� � ������ �

" �� 5� ��� ���� ��� �� � �� ��� � � ��� �� ��� �� ������������� �� ��� �� ������ �;������ � ����� ��� ������ ������� ����� �� � ��

� � ���������� �� � ���������� � ��� ���� ������� ��� ���� � � ����� �,- ����������� �� � ��������� ���� �������� - ��� ��� �� ��������� �� � �������� �� ���� �� �� � - ���������� �7���� � � ���� � ��� ����� ��� � ��� ���

)�����- ��� ����� ��������,- ����� � � ��� �� ��� �� %��� � ��� �� ��( ��� ��� ��� � ������� ��� �������� � �������� ��� ������ ��� ����� ������� 4��� ��� �� ���� �, ��������� ����� �� ��� � � ��� �� ��� ��� ��� �� �� ��� ���

�������

, �/������� 0� ���� ��� ����� �.

������� ���1�2 �0����

��� ����� � ����� " �� 5 � ��� ��� ��� � � � ����������� ������ �� ������ � �� ��� ��� �� ��� ��� � ���������� �� ����� �� � ��� � � ��� ����� ���� ����������� ���� � � �� ��� �� ������ ��� �������� ��� ������� �� ���� ������� �� ����� ��� ��� �� ��� ����'���� %�'�'( ���� ;����

,�� ��� ���"� ��"���"� &#� ���)#+ � �" ���"'

����� ��� ����� ��� � ��;� ����� ��� ��� �� ��� ��� ��" ���� ��� ��� �� ��� ������ �� ����� �� ���� �� ���

� ��� ����� � �� ������� � �+ � � ��� ��� �� ��� �� � � � �� ����� ������ � � � �� � �� �� �� �;��� � �� ��� ������ ����� ���� ����� � �� � �������� ��� ���7� ���� � ��� �� -.20� ����� �� ���� :������ ���� � �� � �������� �� � ��� � �� ���2��� ���� :� ������ ��� ���� ��� � ������ ����������� � ������ � �� ��� �� ���� �� ��� ������ " �� 5�

4����� ��� ��� �� ��� ������ �� ���� �� �� �� � ������� �� �� � ��� ��� �� �� �����

�� ��� ��� ��� �� ��� ��� ���� ���� ������ � ����� ���� �� � � �������� �� � ������� ��� � � �� �������������� �9����� �� �� ����� ���� ����� ��� ������ �������� ��� -.20� -..0� ��� ���� �� � ����� ��� ��� ������� ��� ������ �� ������ � � ���

,�� �"+� ���)#+ � �" �!��"��

)� ����� � �� ����� �� ��� �� ��� ��� �� �� �� ������� �� ����� �� ������ � � �� /���� � � � � /���� ������� �������� ��� �� .72 ��� � ���� � �� ��� �� 57/ ��������� ��� ����������� #, :������ ����� ��;����������� "�� ����7

�� ��� ���� ���� �� �� ��� �� � ��� ���� ����������������� � ��� ��� �� ��� � � �� � � � � � ����� ������������ �� �� :� ��� ������ �� ������ � �� ������� ���� � ����� � � �;��� � -230� ,�� ��� �� ��� ������������� ������ ��� �� �� ����� ��� ����� ��� ��� ������ ��� ������� ����� ��� �� � �� �� �� ������ ��'���� (���� ������� ��� �������� ����� �;��� � �� ������ ��� ��� ���� � *��� � �� � �& ���� ��� ��������� � ���� � 0 ���� *� ��� �� ��� ��������� �� � � -230�

��������1

2�3�+3��� � �������'���� (����� ��� �������'���� (����� ��� ��� �

������������) �1�

��&

� �0 ����

��� � ��� ��� ���� ��� ��� ��� ��� ��� �� �� ��� �� ����� ������� ����� ��� *��� � �� � � � ����� ��� ��� � ����� �� ���� � ��������� �� � ������7���� ) �1��� �� ��������� � �� � � 1� ��� *��� � �� ������ �� ��� � ����� ���� � ������� ��� ���7� �� ���� ��� ���;� ��� ���� ��� ��� ����� ��� ���������� &�� �� .

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >>+

"�! F! ��� ������ � ��� ����� �����! ��� ����� ��������� ����� ���� )����# ��� ��� ��������� )���� ������� �� �������� � ��� �

����&� � �������������� � � ����!

Page 6: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

���� :�� � ���� � � �� ��� ��� � %�� ���� � �( ����� �,-

% ���� �� � � �� � �������� �� " �� 5(������� !, ����� &��������� �� � � � ��� �� � � ���

��������� �� � ��� � �� �������� ������ B� �� ��� �*��� ��� ����� �������� ������ �� ������� ����� ���

���

�1� ��� �����

� ��� ��� ���

�� � ���� :�� � ���� � ��� ��� � %�� ���( ������ �4� � ����� �� ��� ��� ��� �� ��� %��� � �� � �� ����� �;������ ���� �� � ���� �� " �� 5(������� *�), ����� �� ����� 4������ �� � ����� � �

����� � ��� ��-� �������- � ��� � �� ������ ���� ���� � �� ����� ������ �� � �� ������ �� �� � ���� :�� � ��������� ��� ������� ��� � �� ���� �� ��� ������ " �� 5�

� � �� ��-� �-��-�� ������ � �� ���� ������� ���� ������� ��� �� ��

����� �� ������ ��� ��� � ��� ����� ���� ��� �7������ ��� � ��� ���� *� ��� ����� � �������� �7E��� �� ����� -.30� �� ��� ��� �������� ������ � � ����� � �� �� �� ��� � � �� �� ��� � �� �� � � ��� 7� ��� ������ � �� ��� ��� � ��� ��� ��� �� ��� ����� � �� ��� �� � � �� ����� � �� ��� � � ��� � ��� �������������� � �� ��� �� � ��� � ��� �������� ��� � � ����������� � �� ������ � ��

��� � �� �� � ��� ����� � � �� ���� ������ �

��� � �� ����� ������ �

����� ��� ��� ������ %�� #��������$ � �����������������( ��� ����� � ��� ��� � �������� ��� � �� ���

� ����� .� � � ��� ������� � ��� � ��� � �� ������ � ��/���� ��� ������� ��� � �- ��� � ����� �� ��� �� ������C �� ����� �� � ������ � �� �� /��-�� � �� �-� �������� � ��� ���� ��� �� � ������� ��� � �� �- � �������� � �� /������-�� ���� ��� ��� ��� �� ��� �� ������ � ������� ��� �� ���� ����� �� �� �� � �� ������ � � ��/���� �� /����� ������� ����� ���� � ������� �� � ��� � �������� � �� /������� ��� �� ������� �� � �� ������ � ��/������� ���� �����

��� � �� �� � /���/��-�/������-�/����/������� ���/����/������� ����� ��

����

� ����� 2� � � ��� ������� ��� �� ��� � ����� �� ���� ��� ���� ��� ��� ��� ������� ���� �����

��� � �� �� � /���/��-�/����/����/��������-� ��� ���/������-��������� ��

����

)� ����� � ����� ����� � ���� � ���� � ���� �� ��� ��������� �� �� ��� ������ �� ��� ��� ����� ����� � ���� ��� � �-�

4 ������ �� ���� ��� ���� �������� ������ � ���

��� � � �� � � /���/�������/��-�/��-��-� �-���� ����/������� � ��� ������ � �� �� ����� � �� ���� ��� ��� ���� �� �� �� ����������� $, ������� ���� ����� � �� � �� ����� ���

��� ���� � �� ��� ���� �� � �� %����� ��� �����

����( ��� � ��� � ��� "�� ������� ��� ������������ �� � �� � ��� � �������� ����

� � ������� �������������� ��� �� ��

��� �������� ������ � � �� ���

��� � �� �� � /���/����/�����/�������� ������ �� ����

��� � � �� � � /���/����/����/������� ������ ����

,�( � �#��%���)�

��� ����� �� ���� �� ��� ������ �� � ����� � ��� ��� �

�� �� �������� ������ � � �� ��� ����� � ��� ����� ����

��� �������� ������ � � ��� ���� �� /���� � � � � /���� /��-��/�������� /��� ��� ���� �� ���� �� �� �� �� ������ ���

��������� � � � ������ ��� ���� �������� � ��� ������ ��

��� �������� ������ � � �� ��� ��� ��� ���

�� /����� %.5(6 )���� � � ���� � ��� ��� �� � � � ����� � �F /����� � � ������ � �� ��� ��� � %������ � �( ����� �,�

�� /����� �� %.5(� %./(� �� %.>(6 "�� � � �� ��� � ��� � ���� �� �� � � ���� � � � � ��� ��� �� ���� ���� �� ���� �F /����� �� � � ������ � �� ��� ��� �%���( ����� ���

�� � ����� �� � � ���� ���� ������ � � �� /����� ��/����� �� ���� �� �������� �� ����� �� � ��� � ���� �� ���� ���� ��� � ����� � � -230 �� ������ -./0�B����� ��� ��� ��� �� ��� � �� �� �� ������ ��� �������� ������ �� � ������ ����� ��� B ��� ����� ���� � �������� � ��� � ��� ��� ��� � � �;� ����� �� �� � �������� ��� ��� �� ��� � �� ����� ��� ������ �� #�� �7 �$ � � ������ ���� ���� � ����� ��� ����� �� ��� �� � �� � � ������� ��� �� ��� ����� �� ��� ��� ������� ������ � �� ����� ������ � � �� ��� �� ��� � � ������������ ���� �� ���� �� %������ ���(�

)� �� � � ���� �� ����� ����� ��� �� � ������������� ��� ���� ����� ����� ��� ���� �� ��� ���� � � ��� � � ������ � �� ������� ��� ������ � ������ � � ������� -.=06

������ �� ������ � ����� �� ��� ��'� �� ������������������ �(� �� �������� ���� ����� �� ����������� /�'�'7�� 5 �'+� (� �� ��� ����������� �� � ����� ���� �� ��������� ( �� ��� ' �� ����� �<� � 6 % � ��� �����

/�'���'� � 6� �'�

��� ��� �������� ��� ���� �� � �� ��� �� ����

��5 �'+� �� � ��� � ��� 6� �

�� � ������ ������ ���� ��� �������� ������ � �� /�'������� �� ���� ����� �� ��'� ��� ���� ���������� � �������� /����� �� /����� �� ������ �� �;��� �� ������ � ��� ������ � � �� �� ��� ��� �� ������ � � ���� ��� ������ �� ��� ��� � �� ��� ��� � ������ �, ����� ������� ����� ���� ��

/��������-� � �������� �-�� /������� �� � ������ �� ��� �������

>>, �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

Page 7: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

G����������� /�� �� /�� ���� �� ������� ����� ���� ��� �� �� ��� � ��� ����� ��� ���������� )� ������ ������ �� �� �� �� � � ����� ��� ����7�� �������� ���� �

� ��� ��� ���� �� �� � ����� ���� ������� � ��� ������� � ����� ��� � � ���� �� ��� �� � � ���� �� ��� ��� ������ ������ � �,� ��� ������� �� ������� � �� ���������� � ��� ��������� �� �������� � ������ � � �� ��������� �� � ��� ���� ��� �� ������ � � �� /�� �� /�� ����� ��� � ������� ������� �����

- �� �*���2�� �� 0���

-�� ��� # �3 �%$����"' " ��#�"� �4���� ��

&#� � � ���� �� ��� ��� �� ��� ���� �� � ��� � %���� �� �����( � ���� �� �� �� ������� �������� ������ 7�

� �� ���� � ��� � � �� ��� � �� � �� 7��

������ � ��� ��� ���� ����� �� �� ���� �� ���� �������� � �� �������

�� � �7�� � � � ���

� ����� ��� � �� �� ��������� ��� ������� ��� �������� ��� �� ������� ��� ��������� �� � ���� � �� ����� ->0�� � ��7�� �� ������� � -/0� -?0 ����� �� �� ��� ��� ��7������� � ������ ���� ��� �� �� ��� �� �� �� � ����� �� " ����� �� �� � ������ ��� ��� �7��������� � �� � ���� ������� ��� ��� �� ���� ������ 7����� ��7�� �� ����� �� ������ � �������� � � �7�� ��� � ��� �� �� ��� � ��� ���� %����� �� �( ����� �� %����� ��� ����� � � ��� ����� �(� *�������� ��� ����� � � �� ��"�� ����� ����������

����� � � � ��

�"

� �� �� ���� 8�� � � � �� � � � � �" �� �� ����� ��

�� � � �8�� ����� � � � �� � � � � �"� �� ����

)� ���� �8�� ����� � ������� ������ =�� ���> �������� ��

��� � � ���� ��� ��� �� ��� ����5 ��� � :� " � ����� �� ���������� �� �� � �� �� ������� � ������7��7� �

�������� � �� � � � " � ����� �� � � ���� � ������� ���� �������� -/0� -?0�

� ��� ������� � ����� ���� ���� ������� 7�� ��� ����� ��

����� � � � ����� � �� �� � ������� ��� � �� ������ � �� 9�����

9���� � ��7�� � �

���� "�#$

�"���

9���� � �� �� � �� ���

�� � � � ���� ��� ��� �� �� �� ������� �� ���� ����� ��� 7� �� ��� ������� ������� )� ����

9�� � �9���� � � � ��� ��� � � �� � � � � �"� �� ���� �������� ��� ����� ���� � �� ��� ���� ��� ��

� �� ��� ������ �� �� � ����� ���� ���� �� �� � ��

����� ����

����� ������� �� ��������� � ���

"�� ����� ����� �� �� � 7� � ���� ��� �� �� ����� ���7�� �� ����� �� -/0� -?0 �� ������ ����� �������� ��� � "�� ������� " �� 1 ����� � ��� ����� �������� %�����( � ��� � %���� ��� ���7�����( ��� � � ��� ����� ��� %����(� ���� :� �� ��� ����� ��������� ��� �� ���� 8��� � ���� ������� ������ ���� � �� � ��� ��� �� 9��� ��� � � �� � � � � � � �������� ��� �� ��� �� ��� ����� �� � �� ������ � � ���"�� ���� �� � ��� ���� ������� ����� ��� ������ � � �� ����������� � � ��� �� �� �� � ��� ����� � �

����� ������� �� ��������� � ���

���� �� � � ���� ����� �� ����� �� � ���� ��� �� �� #���7���� �� ����$ �� �� ����� � ��7������� � �� � � ������ � ������� ������ " �� / ����� ��� ������� � ������ ������ ��� ���� " �� /�� " �� /�� " �� /�� �� " �� /� ������ ��� ��� 9��� ��� � � �� � �� �� " �� /�� " �� /�� " �� /���� " �� /� ��� ��� ���� ������������ ���� ������ � ��� ���� ��� � �������� �� �� ������� ��� ������ ��� �7� � ��� �� ���

����� ������� �� ��������� � ���

� �� � ����� ��� ������� ����� 7� � �� � � ��� ��� ��� �� �� ��� � ��� ��� ��� �� � ������� )�� ��� ����� � ��7�� �� ����� �� �� ��� ��� ����

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >>F

"�! ;! 2 ��� ���� ��� �� �������� � ���� ��� ��� ����� �� ��� # ��� ����� �� ��� �$ � ��� ������� ���� �������� ��� ��� ��� ��������!

5� ��� ��� � ����� �� � � ����� � � �� ��� ��� ��� ����� �������� ��� ��� �

Page 8: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

%��� �( �� ��� � ������ �� ��� ������� �� ���� ��� ��� ��� �� ��� ����

" �� ? ������ � ��� ������9��� � � � �� � � � � � � ��� � :���� ��� %��� �� � �� ��� � ���� " �� .1�� � ���������� ���� ��� ���� " �� ?� ���� � ��� � ��� ��� �� ����� � ��� ���� ����)� ���� ��� ������� � �� �������������

���� ������� ��� �� ��������� � ��

"�� ������� � �� � �� ���� ��������� � ��� � � �� �������� 7� �� � ����� ��� �� � ������ 7� � ����� � � � � �������������� ���� � ����� � ��� ������� �� �� ���� ��� ������� � � ���� �� �� ������ ��� ��� ���� ���� ������ ���� ��� ��

� � � � �� � � � �" � � � ������� �� � ���� ����� ��� ������� ��� ���

" �� > ����� ���������� � �������� ��� ���:���� ����

����� ������� �� ��������� ���

�� ���� ��������� � ��� � � �� �� ������ � ��� �� � �������� � ������� ��� � ��� � ����� ���� � ����� � ��� ���� � � ����� )� ������ � ��� � ����� ��� ������� ������� ���6 �� : � ����� ������� �� � ������ ��,����� �������� � � ����� �� ���� ����� � ������ ���� � ������ ���

� � �� ���� 7��� � �������� � � � � ������� � ��� �������� � ��

������� � � ���� �� �� � � ��� " �� � �������%��� � � �� � � � � �"� )� �� ������ ��� ��� ���� ���� ���

������� ����� ���� ��� %�� ��� � � �� � � � � �"� � ���� ���

������ �� �� � ������� � �������� �� � ���� ��� ����� -5.0�" �� = ����� ��� ������� ������� � ������� � ��� :����

��� � �� �� ������� � �� � ��� ���� �� � �� ��� ���

��� ��� � �� ���� ���� ���� � � � �� � � � � � ��

����! ������� �� ��������� � ���

���� �� � � ���� ����� �� ��� �� �� � 7� �� � #�������

�� ���$ �� �� ����� � ��7������� � �� � � ��� ��� �

������� ������ " �� 3 ����� � ������� � ������ ��� ��� :����

��� � �� ���� ��������� ��� ����� ��� ����� ��� ����

�������� �� �� ������� ��� ������ ��� �� � ��� �� ���

G� � ��� ������� ������� � ������� �� �� ������� ��� :����

��� �� �� ������ ��� �� ��� ������������ �������� ��� ����

�� �� �� ��� ��� �� ��� ��� ��H������ ��� � ������� ��

������� ���� ��� ���� ���� �� ��� �� ��� :���� � ����

���� ���� � ������ �� �� ��� � ���� �� ��� ��� � ������

>>; �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! <! '�(�'�( ��� ������� ���� �������� ��� ��� �������� � ��� ! '�(�'�( ��� ��� ��� ����� �������� �� ��� ��� ��������!

"�! >! 2 ��������� ��� '����( �� ��� ��� �$ ������� ���� 9��� � � � ���� � � &���� ���� '���� � � "�! +;�(!

"�! ?! 2 ��������� ��� '����( �� �� ��� �$ ������� ���� 9�� � � � �� � � � � � � � &���� ���� '���� � � "�! +;�(!

Page 9: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

-�� ��� # ��3 �'� ������"#

)� ������ ��� �� ����� �� � '�� ���� �������� -10�� ����� ����� �� � � ����� -.>0 �� ����� ����� ����� � ���� � � �� ��� ��� ���� ��� )� ������ ����� ������� ������ ������ � �� ���� ������� ��� ����� ��������� ���� � � ��� ����� ������7��7� � ������� )� �������� �� � ����� ��� ���� ��� ��� ���� ��� ������� �� � ������ �� � �������6 ��� ��� �� :���� �����

" �� .<� ����� � ����� ��� �� ����� ������ �� ���� � ���4 �� �� � ��� ��� ����� ����� ���� ��� ������� ��� ���� ����� �� ����� ����� ��� ��� � ������ �� ���� ��������� ��� ���� ��� ��� ��� :���� ��� ��� ���� ������� " �� .. ������

5 ����� ��� ����� ���� ����������������� ���

�� � �������� �� �������� ��� ��� �� ���� �������7 � �� ���� ������ � ����� ��� �� ���� �� ����������� ������� �� �� ��� ������� ������� ��� ��� �������� ���� ���� ���� ��� ��� ��� �� � ��� ���� ��� ���� � ����� �� ��� ����� ��� " ��� 1� /� ?� >� =� 3� .<� �� ..���������� �� � ���� ���� ���� ���� �� �� �� ��� �������� �� ���� ������ � ������ ����� �� � ������ ��� ����� � ��� ��� �� ��� ����� ����� �� ������� ����� �� �� �� � �� �� ���� ����� �� ��� �� ������ ����� � ���� ����� �� ������ ��� ����� �� ���������� � �� ��� ��� ������ ��� ���� �� � :� ��� ������� ��� ���� ������ � ������� ������ � �� ������ �'�' ���������� ��� � ������� ��� ������ � �� � ������ � �� � ����� � � �� � ���� ��� ���� ��� �� ���� �� ��������� ��� �� *���� � ������ �� ������ � ���

)� ����� ��� ��� ������� �������� ������ � � ��/����� �� �� /������-� 4��� � 1�5 ��� ������� ��� �������7�� �� ��������

5�� �#�4$�"' ��4#����� ��#4#��%��#���"%"�! /����� ��

��� ������� � ����� � ��� � %���( ������� ������� ���� �� �� ����� ��� ���� ���� ��� �� ������ � �����7��� � ������ � �� ���

/����� �� ��"���

8����������� "�#$

�"���

8�� � �� ���

����� ��'� � � A��:� � ��� ������� �� �� �� ������ �� ����� /����� �� � /������ � � ������ �� � �� ���� �� ������ � �� �� ��� ������ �� ��� ��� � ��� �������� � � ���� �� ��� ��� ��� ��� � �� ��� ���� � � , � ��7������ ��� ��7������� ��

/����� �� � ������� ��� ��� ��� ����� ��� ��/����� �� � ������� ��� /����� �� ��� ���� � �� ��� ���� �������� ��� ������ �� ���� ������� ��

� � � � �� � � � � �"���� ��� � ����7������ ���� ��� ��� � ��� � � � ��� � ��� ��� �������� �� ���� � ��� ���� � �� ��� ��� ����� 9�� ����� ���� � �� ��

� � ����

�� � �

�������

9����� � � �� � � � � �"� ���

B�� ������ ��� �������� �� �� ���� �� � �� ����� ���������� � �� ����� �� �� ������ ����� �� ����� � �� ��� ���� � ��� ��� � ��

� � /����� �� ��"���

����������� ��

�;��� � %22( ����� � ��� �� ������ %�� �������( � ��� ���� ��� � ��� � �� )� � ��� ���� � ������� � ��

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >><

"�! @! ��$���� ���������! 2 ��������� ��� '����( ��� ��� ������� ���� �� ��� �������� ���� � � � �� � � � � � �!

"�! E! ��������� ������ � ��� &���� ���� ����� �&�� ������� ����! ��� ���� ���� � ��� ��������� ���! ��� ���� �� � ����� � ��� ���� ������ ��� ������� ����! ��� ����� �� ���� ��� ����� �������� ���� ��� ������� ����� �� �������!

"�! +=! 5����� ���� �� ����� ������ � ������ �� � ��� ����!

'�( ����� ����! '�( 5����� ��� �� ����� +! '�( 5����� ��� �� ����� ,!

'�( 5����� ��� �� ����� F!

Page 10: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

���� ������ � �� ������ � �� � � ���� �� � � � � �"� ������� �� � ���� ��������� � �� ��

� � ����� �� � � �� ���� �:��� ������ � �� �� �� ����� ��� ��������� ������� � ��� ��� � ����� ��� ������� � ������� � �� ����� ������������ ��� #�������$ ���� �� �� ��� ����� � ������ � �� ���� �� �� �� ��� ��� ��� ���

� ����� ��� �� ����� ����� � ��� ������� � %� �

���� �( ������� � ����� �� ���� ������ ����� � �����

���� �������������� � � � �� � � � � �"� ������������� ���� ���

������ �� ��� �������� ����� ��

5�� �#�4$�"' ��4#����� ��#4#��%��#���"%"�! /�����

*� ���� ������ � �� ���� �� �� ���� ���� � � ���

������ �� &��� �� ��� ��� ������ � � �� � �� � ����� ����

���� � � �� &��� ��� ��� �� � ��� �� #������ ��$

3���� � � � �� � � � � � �

&������ � �3���� � � � �� � � � � � �� ��� 3���� � ������ � � �� � ��

����� ������ �� ��� ��� ���� ��� �� � �� ��� � ��� �� �

���� � �

��� � � � � � �

��� �

����� � ��3���� � "�#$ 3

���� � &���� �� � �� � � � � � �

B� ����� ��� � ������ � ���� ��� ������ �� � ��� ������ ��� ��������,�� ,

���- � ������ � �

��� � � � � � �

���- � ����� � �7���� � � �����

� &���� ,���- � � ������ ��� ��� ������ �7���� � � ,-������� ��� �� �

���� � � � �� � � � � ,

���- ��� � ��� �� ���

������ ��� )� ����� �� '���- ��� ��� �� ��� �7���� � ��

����� � � ���� � � �� &����

'���- � ������� � �

��� � � � � � �

���- � � ,

���- � �-�������� � ��� ���

)� ���� ���� ,���- '

���- � ���������� �������� ��� �

%���� � �( ����� �,- � , � ��� �������� � ��� ������ '���- �

� ������ ������ �� �,- �� � ������ ��� ������ �,- ��

��� ��� ��� � � ���� ���

4� ���� ���� � � �� &��� ������ � ������ � �� ������ � %���� � �( ����� �,- �

/����,-� � �

�'���- ���'���- ����

��,- � ,���-���� ��� � � �� � �� �-� ���

��� � � ����� � ��� ������� �� � �� �� ��������������� ��� ������� ������� �� �� ���� � ������������ ���� ���� � � ���� ��� �� ,- � ,

���-�� ������� ���

� ������� ������ ��� ���� � � ��� ,- �� ,���-�� � ���� ��

��� -2.0 ������� �������� � ����� �� ����� � ����� ������� �� �� ��� � � �� � �� ���� �� � ��� � ���������� �� ��� ������ �� ������ �� � ���� �� '

���- � ���

�;��� �� ��� ��� � ����� �,- � )� ����� �;��� �� ���� ������ ���� � �� ,

���- �� �� �� ��� ����� ������ �

���������� �� ��� ���� � ���� ������ ��� ���� � � ��� �� ��� ������ ����� �

�������� � ������ � �� �,- �

/�,-� ���

/���/����,-�� �-�

�� � /�,-� �� �� ��� ����� �� � ������ �� � �� ������ �� ������ �� ������ � �� ��,-����

��� ���� � � ��� &���� �� %�� /�,-�� �- �� � ���( ���������� ��� ��� ��� ����� ���� ��� ��� ��������������� ������ � �� /����� � ������� ��� /�,-� ��� ������� � �� � ��� � ��� ������ � �� �� �� � �� � � ��� ����������

" �� .2 ���������� � ������� )� ���� ���� � � ���&������ �� ����� ������ �� ��� ����� ��� ���� �� � ����� � �� ������� ����� ��� � � �� � �� � ��� ���� ��� � � ��������� �� ��� �� /����� � ��� ������ � �� ��� ������ � ���� �� � ������� ��

)� ����� ���� � � ��� ����� ���� � � ���� ��� ������� �� ������ � �� ��� ������ �� ������������ ����

&������ � �3���� � 3���� � � 3� ��� 3� � &�������

(�) �� 3���� � ��� � � �� � ��

>>> �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! ++! 2 ���������� ���� ��� ����� ������ ���� �� ����� ������! '�( ����� ����! '�( 5����� ��� �� ����� +! '�( 5����� ��� �� ����� ,!'�( 5����� ��� �� ����� F!

"�! +,! 2 �������� ���� �- � ���������� � ��� ������ ���� �� ����� ������ �� ������� � �������� ������� ��� �� ��� ������ ����!

Page 11: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

"�� ������� " �� .2�

&������ � �3���� � 3��� �� &����� � �3��� � 3

�� � 3

��� � 3

��� ��

����

����� �� �� ��� � ,���� ��� � ������ � ���� � � � � � ����� � ��

� �7���� � � �� ��� � � ����� � &������ �� ��� � �

�7���� � � ����� �� � ��

'���� ��� � ������� � ���� � � � � � ����� �

� ,���� ��� � ���������� � ��� ������

)� �� ��� � � ��� ��� �� � '���� ����

/����,����� � �

�'���� ������'���� �������

��,� � ,������ �����

��� � � �� � �� ������

����� �� ��������� �� ��� �� �� �� ����� ������� �����

,���� � /�,����� ���

/���/����,������

���� �� �� � ��� ������ � ����� � � �� ������ � �� /���� /��������� � �� "�� ������� ��� � ����� ��� � �� �� �������� ������ ����� � �� � ���� ������ � �� �� ������ �� � ����� ��� ���� ��� ��� ���� �� ������ � �7���� � ���� ��� ��� '���� ���� � ��� ������� �� � � � ������� � ���� �� ���� ��� ���� ������� �� �� � �� � �� ������ ���� � ��� ����� �7���� � � �� ��� � �� ,����� �� ���������� ������� ����� � ,��� ��� ��� ������B�� ������ ����� � � � � �������� ��� ����� � ����� ��

5�( �#�4$�"' /��������� ��� ��� � /�������������� ��� ������ �� � � ��� ����� ����� ������ ��� ��� �� � ���� � �� �� �� � ������� ��� � � �'�' ��� ��571 %��� %.1((�

"�� ������� ����� ��� ��� ���� �� ����� �� ��� :���� " �� .1� B� ����� ��� ��� :���� �� �� �������� ��� � %�� ����� ��� (� ��� ����� ���� � �� �� ��� � �� ���� ��� ������� �� ��� � �� �� �� ��� �� ��� ����� ���� ��� ����� ��� ����� ������� ����� ������������ ���� ������������ ���������� �������� ���� %��� ������� " �� .1��" �� .1���� " �� .1�� �� � � �������� �� ��� ��� ��� ��� ���� � �������� �� ������� ��� �� �� ��� �� ��� ���

*������ ��� ���� �� ��� �� ���� �������� � ������ ���� ��� ��� � ��������� %����� .( � ���� ������ �� �� � ��� �� �� ��� � �� � � �� �� � �� ����� ��� ����� ���������� ��� � ��� ���

"�� � ��� ���� ��� � �� �� � ��� ������� ��� ����� � ����� %�� ������ ����� ��� ��� ������ �� � ��(��� �� �� �� ��� �� �� �� ���� � ��� ��������������� ������ � � �� /����� ��� ��

������� � /��������� ��� ��� � /������ ���/������ ����B�� ������ �� ������� �� ��� ��� ��� ���� ��� ��� ����������� ���� �� ��� �� � ��� ������� � /��������������� ������ ����� � ��� � ���� � ������ � �� ������ �7 � �� �� ��� ��� ��� ����

5�, � �"&!"' �����6#�)

�� ���� :� �� � ���� �� ��� &&�'�' ����� ����� ��� � � �� � ������� ��� �������� � ��� �����

�� �� �� �� � ��� ������� � ����� ���� " �������� ������ � �� ���� � ������ -10� -.>0 ������ �� � ��� � ��� �� ������ � �� /�,��� � ��� ���� � ������ �,� 4����� ������� � ����� ��� -/0� -?0 ������ ���� �� ������ � �� � ��� ���� ����� �� ��� ��� �������� �� �� ��� ��� ��� �7��7���� �� ���� �� ��� �-20 ���� :� ��� ��� ��� "������ ��� � ���� � ������� � � ������ -230� -210 ���� :� � ���� � ��� ����� ����� � ��� ��� � ������ ���

7 ����� ��� ��� ���� ��� ��� ���� ����

7�� �#�"+��"# � � ��� ����"��% ��"�"4%�

��� &&�'�' ����� � ������ ����� �� ��� ��������� �� � � ��� ��� ��������� �� �� ������ ��� ������� � ���� ������� � � � ����� � ������� ��� ��� � �� ������� � ��� �� ������� �� �� �� � ����� � �������� �� ��� ��� ����� ��� ��<���� ��� ������� %��A( ��� ����

� � � (���( ��

��� ����

� �� � ������ �� ����� ���� � � ��� ����� �� ���� �� � ����� ���� ��� �� � �� �� ����� � ��� ��� � �� �� ����� ����� ��� ������ � �������

" ���� ������ ����� ��� �� � ����� �� ����� �� ���� ��� �� �� ����� � ���� :�� �� �� ��������7� �� �� �� � ���� ������� ��

4����� ��� ���������� ��� � �� ������ �� ���� �� ��� ��������� �� ������� � ��� � ������� � ������� � �������� � �� � ���� � � ��� � ���������� � � ���� ��� �� � ��� �� ������� ����� ���

�� ��� ������� � ��� ��� ����� �� � �������� ������ �� �� �� � �� ���� ����� ��� �� �������� *������ ����������� ��� �� ����� � �� �� �� ���� ����� ����� ���� ��� ��� ����� ��� �� ����� �� ��

E������� � ��� ��� � � ��� �� ������ ��� ������ �� ��� ��;���� � �� ������������ � ���� ��������� ��� �� ������� �� �� �� ��� �� � ���� � ������ ��� ���������� E���� �� ������ � ������ ��� �� � ��� �������� � ������ �� � �� �� �� ����� �� ����� �%B�� ������ ��� �������� ���� �� � 'DA!2<<< ������(

,�� 9 � ��8����� � � � �� � � � � � �� � ��� �� �� ���������� �� �� �� �� ���� #���� ���� �����$ ��� �� ��� � �������� �� ������ � �� 8� � ��� ���� � � �� � � � � � � %I��� ��������� � � �� ��� ����� �� ���� �� �� ��� ��� ��� ������ ��� �� � ������� E���� � � � � ������(� 9 ������ ��������� � ������ � �� �

��� ��� �����

8�88��� �����

����

8� � 88�

� � � ����� � � ��� ��� ��� ��� �� �� � �� ��� �������� ��� *���� �

������ �� ������ � �� �� ������� ��� �� � � �� �� � ��� �������� ������ ��� ��� �� ����� �� 9 �� �� ���� ������������ ������ �� ������ � ��� ����� �� ��� ��� ��� ����������� ��� �� : � � @������ 7,� ���� � �������;���� ������ � ������ �� ������ � �9� � �

9� � (�� ����9��

;���� �� � (�� ����9��

���� ��� ��� ��� ���

��� ��� ���

���

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >>?

Page 12: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

�� � �� ��� � ������ ��� ����� ��� ��A ��� ���� %�������� � ��� ������� � ����� �(�

7�� � *+),��#-���� �%'#�"� � &#� �$%�"4%��#%$�"#�

"���������� ��� @,7� ������� ;���� �� �� �� ��� ������ ��� ���������� �� � � ����� ������ ;���� �� �� �� ����������� ��� � �� ��� �������� �� �� ��� ������ �������� � �� ��� ��� �� �� ��� �� ��������� ����� ������� �� �� ��� �������� � �� ��� ����� ��� ��� � �� ��� ����� �� ��� ��� � � ���� )� �� ������ ����������� ��� �� � ����� �� ����� �� ���� � ��� �� < ���� ����� �� < ����� ������ *� ����� � ��� ��� ��� �� ��� ��������� �� � � � ����� � � � ��� ���� ���� � �J �������� ���� � �� ������� � �� �� ����� �� ��� ��� ��� ����� ���� � �������� E���� �� ������ � ����������� �� ��� ����� � 9� ������ ������ )� ���� �������� ��H#*(),��#-����$ ����� ���1

4������ �� ���� � ��� �� ���� ���� 9 �� ���� �� �� � �1� �� �� ���� � �� ���� ��� %�� � ���� �� ���� ����( ���'�'� ������� ������ � � ���������� ���� )� �������� ��� 9 �� 9� �� ��� � ��� �� ���� ���%�(� ���� ���� ��� ������ ��� %�� ����� ������ ����( ���9� �� ���� �� 9��" �� : � ��� ������ �� �� @, � ������� ;��������"����� ������������ ��������

.� � � �� : � 9 �� � �� ������ � �� � �� ����� � � ���

2� !�����5� '����� � �� ���� ��� �8������� �� &&�'�'

����� � ���������� ����1� 9� � 9

���8���������/� �� 9��?� "�� � � �� � � � � � � � ��>� 9�� � 9�.��8�������=� ��� � 9���3� �� � ;���� �����.<� �� � (������������������ ���..� 9 � 9��� � �� ����

� ����� ��� �� �� ��� ��� ��� �� ��� � �� ��� ������ ���� �� ��� ��� 9 � ����� ���� �� "�� �������� ���� ��� ������ ����� �� � � � ��� �������� ����� � � ���� �� �� ��� �� ��� ��� � �� ���������� ��� ����� ��

8 �/������� �

��� &&�'�' ����� � ��� ������ ����� ���� � ������7������ ����� �� �������� ����� �� � ���� � �������� ������� �� ��� ��� ��� ����� � ��� ���� ���/ ����� ���� ������ � ������ ���� ��� �� /< ������ ���� ���� ����� �� ����7����� -2.0 �� ��� *�� ���� ������?

����� ��� ������� �� &&�'�' �� ����� ������ ���� ��-2?0 ��� � ������� ����� �� �� ����� �� � ���� ����� ��������� ���� ������ ����� �� ���� ��� ����������� ���� � ��� ��� ��� ������ ���� ��� �������� ������� ���� ���� �� ������ ������ ������

)� � ��� ���� ��� ��� � ������ � ��� ����� ��� ���� "����� � ��� ������� �������� ������ � � �� ������ ����� " �� .< �� ��� ����� ������� � " �� 1� ��� ������ ����� ��� �� ��� � � �� ����� � ������ � ��������� �� ���� " �� .5 %��� ���(� ��� ����������� %� ��� ��� ���( �� ��� ����� �'�'� ��� ������� " �� .5 ��� �� � � ������ " �� .5 ����� ��� � ����������� �� ���� ���� �� �� � ��� �� ��� �� �*(),��#-���� ����� ��� �� ��� �� ��� ������� ����� ���� �� ������ :�� � ��� �� ���� � ��� ���� �� ���� ����� � �������� � � �� � ��� ������ � � � ������� �� ��� � ��� ���� � ��� �� ����� ������� ��

" �� .1 ����� ����� ������� �� � � ����7����� :���� ���� �� �� � ������� ������� ��� &&�'�' ����� �� �� � ����� ��� ��� �� ���� �������� � �� �� � � #�������������$ ��� �� �� ���� %��� %2((� �� ������� ��� ������ ��������� ��� � � � � ��������� ������ ������� �� �� ����� ��� ��� )� ������ ������� ������� �� ����������� �� ���� � � � ���� ��� ���� ������� ����� � �������� ���� ��� *(),��#-���� ����� �� � ������ �� ������ ����� � � �� �� ����� �� � ����� ������ )������� ��� �������� � �� �� � ��� �� � ������ � �� ���� ��� ���� � � �� ��� ��� ������ �� ������

>>@ �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! +F! ��������� � ��� ���� �� ���� ��� �� ������! ��� ��$� �� �$�������!

1� ��� �� ������� � ���� �� �� ������� ���� �� ������ �� �� �� ���������� 8��� � ��� �� ���������� ��� �� ������ ������� ����� � ���� �� �� ��� � ����� ��� ���� �����K� ���� ��� ���

/� 4�� ����� ���� �7���������+����+4������ �+&&�'�'+&&�'�'����

?� 4�� ���������� ��������+L���� +�������+*4&4.<<+���+������ �

Page 13: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

������� � � �� *(),��#-���� ����� �� �� ���� �����

��� ���� ��������� �� ��� � ��� ������� �� ��� ��� � ��

����� ��;��� ����� �� � � �� �� ��� ������ ���������"�� ��� :���� ���� �� ������ ��� ��� ���� ��

�� �� ��� ��� �� �� � �� �� ����� ��� :���� �� � �������

��� �� ��� ������ :�� ���� ����� � �������� � � �� � �

���� ���� ��� ������� ���� � �� ���� � �� ������� ��

������ ��� � ��� ���� � ����� ��� ������� ��� ����� ����

��� ��� � ������� ���� ����� � ������ ����

����� � ��� ����� �� ��� ����� ����� �� �� � �

��� � �� �� ��� ������ ���� � ������ ���� �� ����� �" ��� ./ �� .? � ����� ��� ����� ����7����� �� �����

���� �� � ��� ��� ����� ��� )� ���� ��� ��� %����(

�� � ������� � % ����( ����� � � �� ��� ����� � ��

��� � �� �� � ������ :�� ��� %� ���( ���� ��� ���

� �� ���� ���� � ������� ��� � ������ ��� ����� ���� ���

����� ��� �� �� ��� � �� � ��� ���� �� �� .�<75�/� �� ���

����� .<7/< ����� ����� � ��� ��� ������ �� ��

��� ������� � � A�� � ��� A' �� ����� � ���

� �� �� � � :�� ���� �� ���� �� � ����� ����� ���� �

��� ������� �� ���� ������� ����� �� ��� ��� ����� ������ � ���� ���� ���� �� ��� �� ����� ���

�������� ������ ���� ���� �� ����� �������� �������� � �

������ ���� "�� ������� ��� � ��� ��� �� " �� .?� ��� �� �

��� � �������� ���� � ���� � �� � ������� �� �� � ��

��������� ��� ���� � ���� �� � ��� ������ ��" �� .> ����� ����� ����7����� ���� ��� �� ���

/< ������ ���� ���� ����� �� ����7����� ��� ���

������ ������ ��� ��� %����(� ��� ������� � �������

�� &&�'�' % ����(� �� ��� ���� ������� � �� �

��� ������� %� ���( ��� � ��������

9 ����������

� ������ ��� � �� ����� ����� ��� &&�'�' ����� � ����� � ���� ��6

�� ������� � ����� ��� ������ ���� �� �� �� �������������� ��� ���������� ���� :�� �� �� ����������� ���� �� ����� ��� ������ ����� � ��

�� ��������� � ���� � � � � � ��� � � �� �� � ���7����� � ������ �� �� )�� ����� � � ���� ���������� ��� ����� � ������� � ���� %������� � ���������� ���( �� :� ��� �� ��� ������ �� � � � ���� �� �� �� �� ��� ��� ������ ��� ��� � �� ��������

�� ����: � ��� &&�'�' ��������� ���� ��� � � �� ��� ������� �� ��� ��� �� ���� �� �� /��

�������/

�����/��� ��� 0� 1�*��2�������

"�� � �� � �� �� ���� �� �� ����� �� ���� � ��� ������ ��� ��� � ����� � � ��� ����� ���� ��������� ��������� �� ��� ����

"�� ������� � �������� �� ������� ���� ���� ������ ������ ������� ���

�� ���� ��� � ������ ���� �� ����� �� �%������ ���� ���� �� ��(� � � � � ��� ������������� �� � � �� �� ��������� � �� ��� ����� ��� ����� ������� � � ��� � ����� ������������� � �� ��� ��� � ������ �� �� �������������� ����� � � � ��� ���� �� ����� ��7���� �� ��� � � �� � � � � � ��� ���� ��������� ������� ����� ��� �� ��� � �� � �� ���

�� ���� ��� �� ��� � �� ��� 8� � ����� �� �� �����

� ��� �� �� =���� � � ��� ������ ��� ���� �� ��

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >>E

"�! +;! 0$�������� � ��� ���������� &���� ���� ��� ����� ������C '�( ���� ����# '�(�'�( ��� ����� ������# ��� � � �� � �# �� ��� &����

����# '�(�'�( ��� �������&�� ����� ����� � ����� �� � �� ������� ��� �������!

Page 14: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

����� ���� ��� � ����� � ��� ����� � �����

���� �=���� =�( �� ���� ��� ���� ��� ����� "�� �������

� � ���� �� ���� ����� �� %�� ����� �� �(

����� ���� �� � ���� ��� ����� �� ��� �� ����

����� ��� � ������ � �� %�� ����( � ���� ��� �����

�� � ����� �� ��� ������� � � �������� �����

#�� � ��$ ����� �������� � ����� � ����� �� �� � ���� ���� � � ��� ������ � ��� ��� �� ��� � ������ ���� ���� � � ��� �� ������� � �� ��� ��� ��� ��� ��� � � � ��� �� �����7���� ����� ��� ���� ��������� ��� ���� ����� �� ��� �

����� ����� � ���� �� ������ �� �� ������ �������� ������� ����� �� �� � ����� �� ����� ����������� � �� ����� "�� � ����� ����� < � �� �����

���� � �

88

�<���

8����� ��� �� �� 88 �

�<���

8��

)� ����� ��

9+ � ��8������ � � �� � � � � � <���<���

8� � 88�

>?= �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! +<! 9��������� ���� ���������� �� ����! 6���C ���� �����# �����C ���������� �������� # ����C �������&�� ����� ���� � ��������� ��� ���������� ������� � !

Page 15: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

��� ��� �� �� ����� ���� ���� %�� ����(� ����� ��� ��� � ��

������ $$ < ���� ���� 9 ��� 9+� )� ��� � � ��� �

��� ��� ��� 9 �� ��� ��� 9+�

> � ��� � � � � � ������ � � � � �� <������������

9 � ��8>�����>����� � � �� � � � � � �9 ������ � �������� � ���� ��� ������ �� � ���� ��

���� � �

��

����

8>������� �>���� �>����� �� �����

8>����

B�� ���� � �� ������

9� � (�� ����9��

;���� ���

"������ ���� �� � ������������������ ���������

��� ��� ��� ������ �� � ����� �� � �� � � �� � � � � � < �

*� ������� ��� #�����$ ���� ��� ��� ������ ��� � ����

�� ����) ��������������� ������������������� �����

������ ;���� �� ��� ������ �� )� ����� � �� � �������7

� � ��� ��� @,7� ������� ��� ����� � � ��� ��� ���,�� ���'� � ���� ����

� �� ��'� � ���� ���� ��

��� ����� � � ��� ��� ��� ��� � � ���� �� ���� ����

;������� � ��� � ���

)� ���� � � ��� ����� � ����� �� � ��� � ��� �

� �<���;�� ;� ;� � � �� �� ��

;� � ��� ��� ����� ���� � ��� ��� �� � ���� ��� �8��������� ����� ��� �� � ���� � � � ���� ��� ���� ���� 9 ��� �������� ��� ���� ����� � �� � �� ��� ����� �� ��� ������ ��� �� � � � ����� �� ��� ��� ������� �� ������) �� ���� ��� ;�� � � ��������� �� ����� ���� ���� ��� ���� �� �� ��� ��� ����� �� ��� ����� < � ����� ��� �����������

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >?+

"�! +>! ��� ���� ���������� �� ����! 6���C ���� �����# �����C ���������� ������� � # ����C �������&�� ����� ���� � ������ ������ ���������� ������� � !

"�! +?! ��� ���������� ������� �� ���� �� ��� ��������� ���� �� �����! ��� ����� �� ��� ���� ������� �� ���� '�����( ���������� ��� ������� �� � ����� ���)��� '����( ��� ������# �����# ��� �����# �����������# ������� � ���� ������!

Page 16: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

���� 8�88���� ����

�� � � ;�� � � �� � � � � � <�

��� � :� �� ;� � ��� ������ ��� �� ����� ���� � < � ���� ���� ��� ������ � ��� ;� � �� ���� �� �

����� ���� ��� ���� � �������� 9�)� ��� � � ����� ��� � ���� �

� � ��� � � � � � <� � ��� � � � � � ���� ���� ���� ;� � �� ���� �� � ���� ��� �>������ � 9 �

���� 8������

���� �>���������� � � ;�� � � �� � � � � � <�

��� � ����� ��� < ��� � ��� ���� � ��� �� �������

���� �� �� �� � �� ���� �� �� ���� ��� 9 � ����� ��

�� ������ ��� ;���� ���

;���� �� ��< ��

�;

���� ��� ���� ���� ��

��< ��

�;

88

�<���

8����� ����� ���

�88

�<��� 8����� ����

����

�-��� 8>������� ��>������

��

�< ��

�;

8 88���� � ��

�����

88� ���

8 ���� � ���

8>��� ������ �>��� ������ �

��

��< ��

8 88

�����

88� ���

8 8>��� ��

� �� � �>��� ����

� �

� �����

88��< ��

8 88

�=��>��� ��� � =�� �� ��� � �>��� ���

� �� ;���� ���

�;��� � %2=( ��� ��� �� � �� �� ��� ��� �������� �������� ���� ���� �������� �>������ ������ ���� ������� ��� 8>������� ��� �� �� ��� � ��� ������� � ������ ������� ���� 9+ �� ���� ���� 9� ����� � ����� �� ���� �������� ���� ���� 9- �� ���� ����� ��� ���� �� ������� � �������� ���� ���� � �� � � �� ��� � � ��� ����� ���� �� ���� ���� ���� %2>( ������ :�� ��� ���� � ��� %�&?(��� ���� ��� � ��

�� ��������� ��� ������� �� ������ �� � ;���� ���� ;���� ��� �� ���� ��� ����� ��� ������ " �� .=�� ������ � .& � ��� ��� � ����� �� �� � � ����� �� < � ������ �� %���� ����(� )� ��� ��� ������ ��� ���� �� � ����� $ � $ �� $ ��� 4������ �� ��� �� ������ � ����� ���� ��� 9 �� ����� ����� . � ������ ��� � ������������ ���� �� ���� ���� ��� ���� ���� ��� ��� �� ������ ����� ��� ����� ��� @,7� ������� ;���� �� �� ����� �� ��� � ;���� ��� ��� ������ �� � � ���� ��������� �� ��� ���� ���� ��� ���� ����������

*���������� ������ �'�� '�� '���� �������9� A��� ���' ��� ������� �� ��� @,7� ������� ������� � � ��� '���������� � ������� ������ ��� ���'� ��'�� ��� ��������� ����� ��� �������� ����� �� ��� � ������� ������ ��'��� ��'�� �� � � ����� ������ �'�� '� '�� �� �'�� '� '��� ������ ��� ���@,7� ������� ������ ���� ���� ���� ��� �������� ���� ����� �� � � � �� � � � ��� ��� � ��� �� ���

�� � ��� � ������ ���������� " �� .=� " �� .=������ ��� ���� � �=��� �� �� � ������ :�� ��� � �����7 �� ���� ��� ��� �� < � �� ���� ���� ����� ������ ������� �� ��� ���� ������ ��� ���� �� =����� � � �� � � � � � <��� � ����� � ��� ����� � ������ ��� ����� ����� ��� ��� ���� � ���� ������ �� ������ " �� .=� ����� ��� ����� �� - � � ���� ���� ���� :� ���� ;���� �� �� ;���� ���" �� .=� ����� ��� � � ���� ���� ���� :� ��� ��������� ������� ��� ��� " �� .=� ��� ��� � ������ ���� �����

"�� ������� �� � ��� � ;���� � �6 E�� �� �������� ��� � ����� ������ ��� ����� �� �� �� �F�� � � ����� ������ � �� ��� ����� ������� ��� )������ � � ����� ������ �� �� � ��� ���������� ���� �������� ��� ��� ���� �� ��� �� ���� �� �������� � �� ��� ����� ���� �� ���� � ��� �� �� �� ��

>?, �000 �123�2���43� 43 52��013 23267��� 23 �2�8�30 �3�066�903�0# :46! ,;# 34! <# �27 ,==,

"�! +@! '�( 2 + ���! ���� ��� ��� �������� ��� � � �� � �� �! '�( 2 , ��� ���� ��� �� �������� �� ��� ��� ���� � ��� ���� �� �����&���!'�( ���'� ��� �$ �������� ���� ���&�� ;���� �� � ;���� ��! '�( ��'� ��� �$ �������� ���� ���&�� ��� ��!

�2 60 + ������� ������� ��'� ��� ��'� �� ������� 5������ ��� 9�

Page 17: Image segmentation by data-driven markov chain monte …sczhu/papers/DDMCMC_reprint.pdfImage segmentation by data-driven markov chain monte carlo - Pattern Ana lysis and Machine Intelligence,

��1��:������� �

�� � ��� � ���� ���� ��������� �� ��� G4 I�� ���

4� ��� "����� � ����� ��4 3=7>>7.2> �� ��47<<7327??1� �

I�� ��� ������� �� �� 4���� ����� ���� I��7.57

<<<53� � B�� �� �� I���� !������� ���� I<<<.1<7..<7/5/�

�� � � ������� � ��� �4 ������ !�� 8��� ������ ���

����� ��� ��� ����� � ��� ��� ����� � ����� ���

.& �� 2& ���� 4��� � >� ��� ������� ��� &�� �

������ ��� � ����� ���

����������-.0 ,� ������:� 9� ��������� �� M��� ������ #��� 4 :� �� B������

I������ ������$ ?������ �� ����� �� ����' �� &��������� � 2<<<���� 4��� *�� ��� ��'� @� ���� �� A�M�)� !����� #G������ ���

4������ � �� ������$ �?�+ )*�� &' ������ ��� .3721� M���.33=�

��� '� *��� �� *� , �� #���� ��� !������ � 4������ � ���������� ������$ �+++ ��� ' ?����� &��� � �� ���������������� ���� .5� �� 2� ��� 337..5� "��� .33.

��� M�"� '��� #� '������ ��� �������� �� ���� &����� ��$ �+++��� ' ?����� &��� � �� ������ ���������� ���� =� �� ?���� ?>37?3=� I��� .3=?�

��� 9� '���� #��� 4� ��� ���� 4�� �� �� '������ ��$ �+++��� ' ?����� &��� � �� ������ ���������� ���� .>� �� =���� >3<7>33� ���� .33/�

�� &� '�� � � �� A� ����� #��� 4� �� ����� � �� ���� ��7� ���$ ?���' ��@� ���' �������� A� ��� ��� ..3>7.2<5� .333�

�� ��A� &������� I��� ,� ��� �� &�*� !�� � #��� � , �7� ���� ��� �������� &��� � � ��� �� ����� ���$ 2' 5��������� ��� ���' ����� :� ���� 53� ��� .75=� .3>>�

��� 9�I� &��� *�4� �������� �� E� 4� � #'���� ����4������ ��$ ?���' �+++ ���' �������� A� �� �� ?�����5�������� ��� 11?71/.� .333�

��� &��� "������� #4��� �� !����� � �� '����� '�������$?���' �+++ ���' �������� A� �� �� ?����� 5�������� ��� 5<<75</� .333

�� � 4� ��� �� &� ���� #4������� � !������ �� � ��� & ��� ��7� ��� �� ��� *���� � !������� � �� ������$ �+++ ��� ' ?�����&��� � �� ������ ���������� ���� ?� ��� >2.7>1.� I��� .3=1�

���� A�M� ����� #!����� ��� M�� ��� �� '�� ���� '����'������ � �� *���� � ����� &���� �� ��$ :�������������� =2� �� 1� ��� >..7>52� .33/�

���� G� ������� �� ���� � ������ #!��������� �� �� @������� '����� 4������$ 2' 5���� ����� ��� ���' ����� :� ���� /?� �� 1���� /137?<5� .331�

���� �� @���� �� ) � � �� &� ���:�������� #4� ��6 ��� �� '������������$ ��@� 2' �������� A� ��� ���� .� �� 1� ��� 52.7552� M��.3==�

���� �� @�������� '� ,���:� �� M��� ������ #� ���� ����� ����� ����� ���� 4������ � �� D�� �� ��� ���������$ ��&� 2'%�������� &��� � � ���� 5.� �� .� ��� 2=27233� .331�

���� 9��� ,������� #'������� � 4 ��� 4����� &���� �� �� ��� ����A��� � � ��$ ��@� 2' �������� A� ��� ���� 5� �� .� ��� >57.<2� .3=3�

��� ��*� ,��� &�*� ������� �� M��� E���� #B����� � ������ ���I������ ������$ ��@� 2' �������� A� ��� ���� 1.� ��� 5/7/3� M��2<<.�

��� E�'� ,�� �� &�!� '� � #&����� � *����� �� � D����� " ����$�+++ ��� ' ���� ?���� �� ���� 53� �� /� ��� ..=.7..31� .33.�

���� @�,� ������� �� !�,� ����� �� #!���� �� '�������� �� ���E��� �� �� �������� � ����� ����$ &�� �� ����� ��� � ���� 21���� .<.7.2.� .331�

���� I� �������� �� ��I� !��������� ��)� !��������� ��E� ��������� �� ������� #�;��� �� �� 4���� '������� �� �� "��� '���� ����� ��$ 2' �������� ?�� �� � ���� 2.� ��� .<=>7.<32� .3/5�

�� � &�*� ������ �� *� � ���� #4������� � ������ ��� ���� �������$ B�������� �� &������ ����'� ���� ,�N� �� .� ��� =/7...����� 2<<.�

���� &� ���� � '� "��� ��� &� ���� �� M� ��� � #� &������� ��E�� 4������ I������ ����� �� ��� ���� ��� � ��������� � 4������ � ����� ��� �� ������ � ������ ���4��� �� ���$ ?���' ��@� ���' �������� A� ��� ���� 2� ��� 1.?7125�2<<.�

���� 4� B�� #������� 4������ � ������ �� G� � ���7& �� ����! ����� �� @������ ������ ��$ ?����� 5�������� ���� 2?���� 25>7215� .335�

���� 4� B���� �� M��� 4��� �� #"��� A������� � � �� '��������&������ 4����6 ����� ��� *���� � E� ���7M���� "��7���� ��$ 2' ������������ ?�� �� � ���� >3� ��� .2713� .3==�

���� I� A���� �� �� !� &�� ���� #'������ ������ � ��� �� !�� ����� ���� 4������ �6 � ,���� 4�� ���������$ ?���' +���������' �������� A� ��� M�� 2<<<�

���� 4� 4������� �� M� �� ����� #��� �� *�����$ ?���' ��@� ���' ��������A� ��� ��� ..1?7../5� .33=�

��� M� 4� �� M� ��� � #I���� :�� '��� �� ���� 4������ ��$�+++ ��� ' ?����� &��� � �� ������ ���������� ���� 22� �� =����� 2<<<�

��� !�E� 4����� �� M�4� )��� #I�� ������ '� � ��� &�� �� ���� '���� 4 ���� ��$ ?�� ���� 5��' 7����� � ���� /=� �� 2���� =?7==� .3=>�

���� M�A� )��� #4������� � !������ � � A��� � �� � �� '������'������ �� ��� ���� ��� �� �� ���� 4������ ��$ �+++��� ' ?����� &��� � �� ������ ���������� ���� 2<� �� ?���� ?.37?5?� M�� .33=�

���� 4�'� 8�� �� ��,� 9� ���� #!�� � '���� � �6 G �� � 4� ���!�� � ���� �� �� *����+�&, ��� ���� 7*�� ���� 4��7���� ��$ �+++ ��� ' ?����� &��� � �� ������ �������������� .=� �� 3� ��� ==173<<� 4���� .33?�

�� � 4�'� 8��� 9�I� )�� �� &� ������� #" ������ !��� " ��� ����� � ������6 ������� � G � �� ������ ��� ������������ ��$ ��@� 2' �������� A� ��� ���� 2>� �� 2� ��� .<>7.2?� .33=�

���� 4�'� 8�� �� N� , �� #,��� � � ��� � " ����6 E�� ���������� E�� "��� '� �� *�F$ ?���' �+++ ���' �������� A� �� ��?����� 5�������� ���� 2� ��� 273� 2<<<�

; $#6� $ ������� ��� 0 ������ ��������� ��������� ��� �)�� ���������������� �������� � +EEF! 8� ������� ����0 ������ � ��� ��������� ��� �������B������� � +EE>! 8� ������� ��� �� ������� ������ ������ ��� �������� � +EEE ������ 4� ����� B�������! 8� � ��������� �5� �������� � ��� ��������� � ���������� �������� ������ �� ��� 4� �����B�������! 8� ��� ��� ��� �������� � �������� ������ ��� �������� �� 5���� B�����

��� ��� +EE> � +EE?! 8� �������� �������� ������ ������� ���#���� ��������# ��� �������� ������� ������ ��� ������!

�#'*� $ ; $ ������� ��� � ������ �������� ������ ��� ��� B������� � ��������� �������� � ���� � +EE+! 8� ���������� �� ��� 5� ������� � ������� ��������� 8������ B������� � +EE; ��� +EE>#�����������! 8� ��� � �������� ������� ���� ��� � 2����� ���������� �� ���B������� ����� +EE>�+EE? ��� �� ��� ��������� � ��� ������� ������ ����������� ������� B������� ����� +EE?�+EE@! ����

+EE@# �� ��� ���� � ������� ������ � ��� ��������� � ������� ����������� ������� �� 4� ����� B�������! 8� �������� � ������� ������� ��� ��� �������# ��������� ������# ��� ���������������! 8� ��� �������� <= ������� ��� ������� ����# �������� ��� ���� ��&� ������ �����# � B� 3����� ������ "������������ �����# �������� ����� � ���� �������# ��� � 3��� ������������� �����!

? �#� �#�� "&#����"# # � "� #� �! #� �� �#�4$�"' �#4"�<4%���� +"�"� #$� �"'"��% �"����! �� ����C..�������!��.���������.���!

�B 23 �8BC ��290 �09�03�2��43 7 2�2� 1�:03 �21D4: �82�3 �43�0 �2164 >?F