lisp/utf-2000/char-db-util.el

   1 ;;; char-db-util.el --- Character Database utility
   2
   3 ;; Copyright (C) 1998, 1999 MORIOKA Tomohiko.
   4
   5 ;; Author: MORIOKA Tomohiko <tomo@m17n.org>
   6 ;; Keywords: UTF-2000, ISO/IEC 10646, Unicode, UCS-4, MULE.
   7
   8 ;; This file is part of UTF-2000.
   9
  10 ;; UTF-2000 is free software; you can redistribute it and/or modify it
  11 ;; under the terms of the GNU General Public License as published by
  12 ;; the Free Software Foundation; either version 2, or (at your option)
  13 ;; any later version.
  14
  15 ;; UTF-2000 is distributed in the hope that it will be useful, but
  16 ;; WITHOUT ANY WARRANTY; without even the implied warranty of
  17 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  18 ;; General Public License for more details.
  19
  20 ;; You should have received a copy of the GNU General Public License
  21 ;; along with XEmacs; see the file COPYING.  If not, write to the Free
  22 ;; Software Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA
  23 ;; 02111-1307, USA.
  24
  25 ;;; Code:
  26
  27 (require 'alist)
  28
  29 (defconst unidata-normative-category-alist
  30   '(("Lu" letter        uppercase)
  31     ("Ll" letter        lowercase)
  32     ("Lt" letter        titlecase)
  33     ("Mn" mark          non-spacing)
  34     ("Mc" mark          spacing-combining)
  35     ("Me" mark          enclosing)
  36     ("Nd" number        decimal-digit)
  37     ("Nl" number        letter)
  38     ("No" number        other)
  39     ("Zs" separator     space)
  40     ("Zl" separator     line)
  41     ("Zp" separator     paragraph)
  42     ("Cc" other         control)
  43     ("Cf" other         format)
  44     ("Cs" other         surrogate)
  45     ("Co" other         private-use)
  46     ("Cn" other         not-assigned)))
  47
  48 (defconst unidata-informative-category-alist
  49   '(("Lm" letter        modifier)
  50     ("Lo" letter        other)
  51     ("Pc" punctuation   connector)
  52     ("Pd" punctuation   dash)
  53     ("Ps" punctuation   open)
  54     ("Pe" punctuation   close)
  55     ("Pi" punctuation   initial-quote)
  56     ("Pf" punctuation   final-quote)
  57     ("Po" punctuation   other)
  58     ("Sm" symbol        math)
  59     ("Sc" symbol        currency)
  60     ("Sk" symbol        modifier)
  61     ("So" symbol        other)
  62     ))
  63
  64 (defconst ideographic-radicals
  65   (let ((v (make-vector 215 nil))
  66         (i 1))
  67     (while (< i 215)
  68       (aset v i (int-char (+ #x2EFF i)))
  69       (setq i (1+ i)))
  70     (if (< (charset-iso-final-char (car (split-char (aref v 34)))) ?0)
  71         (aset v 34 (make-char 'chinese-gb2312 #x62 #x3A)))
  72     v))
  73
  74 (defun char-attribute-name< (ka kb)
  75   (cond
  76    ((find-charset ka)
  77     (cond
  78      ((find-charset kb)
  79       (cond
  80        ((= (charset-dimension ka)
  81            (charset-dimension kb))
  82         (cond ((= (charset-chars ka)(charset-chars kb))
  83                (cond
  84                 ((>= (charset-iso-final-char ka) ?@)
  85                  (if (>= (charset-iso-final-char kb) ?@)
  86                      (< (charset-iso-final-char ka)
  87                         (charset-iso-final-char kb))
  88                    t))
  89                 ((>= (charset-iso-final-char ka) ?0)
  90                  (cond
  91                   ((>= (charset-iso-final-char kb) ?@)
  92                    nil)
  93                   ((>= (charset-iso-final-char kb) ?0)
  94                    (< (charset-iso-final-char ka)
  95                       (charset-iso-final-char kb)))
  96                   (t)))))
  97               ((<= (charset-chars ka)(charset-chars kb)))))
  98        (t
  99         (< (charset-dimension ka)
 100            (charset-dimension kb))
 101         )))
 102      ((symbolp kb)
 103       nil)
 104      (t
 105       t)))
 106    ((find-charset kb)
 107     t)
 108    ((symbolp ka)
 109     (cond ((symbolp kb)
 110            (string< (symbol-name ka)
 111                     (symbol-name kb)))
 112           (t)))
 113    ((symbolp kb)
 114     nil)))
 115
 116 (defun insert-char-data (char)
 117   (let ((data (char-attribute-alist char))
 118         cell ret has-long-ccs-name rest
 119         radical strokes)
 120     (when data
 121       (save-restriction
 122         (narrow-to-region (point)(point))
 123         (insert "(define-char
 124   '(")
 125         (when (setq cell (assq 'name data))
 126           (setq cell (cdr cell))
 127           (insert (format
 128                    (if (> (length cell) 47)
 129                        "(name . %S)
 130     "
 131                      "(name\t\t. %S)
 132     ")
 133                    cell))
 134           (setq data (del-alist 'name data))
 135           )
 136         (when (setq cell (assq 'name data))
 137           (setq cell (cdr cell))
 138           (insert (format
 139                    (if (> (length cell) 47)
 140                        "(name . %S)
 141     "
 142                      "(name\t\t. %S)
 143     ")
 144                    cell))
 145           (setq data (del-alist 'name data))
 146           )
 147         (when (setq cell (assq 'ucs data))
 148           (setq cell (cdr cell))
 149           (insert (format "(ucs\t\t. #x%04X)
 150     "
 151                           cell))
 152           (setq data (del-alist 'ucs data))
 153           )
 154         (when (setq cell (assq '->ucs data))
 155           (setq cell (cdr cell))
 156           (insert (format "(->ucs\t\t. #x%04X)\t; %c
 157     "
 158                           cell (decode-char 'ucs cell)))
 159           (setq data (del-alist '->ucs data))
 160           )
 161         (when (setq cell (assq 'general-category data))
 162           (setq ret (cdr cell))
 163           (insert (format
 164                    "(general-category\t%s) ; %s
 165     "
 166                    (mapconcat (lambda (cell)
 167                                 (format "%S" cell))
 168                               ret " ")
 169                    (cond ((rassoc (cdr cell)
 170                                   unidata-normative-category-alist)
 171                           "Normative Category")
 172                          ((rassoc (cdr cell)
 173                                   unidata-informative-category-alist)
 174                           "Informative Category")
 175                          (t
 176                           "Unknown Category"))))
 177           (setq data (del-alist 'general-category data))
 178           )
 179         (when (setq cell (assq 'bidi-category data))
 180           (setq cell (cdr cell))
 181           (insert (format "(bidi-category\t. %S)
 182     "
 183                           cell))
 184           (setq data (del-alist 'bidi-category data))
 185           )
 186         (when (setq cell (assq 'mirrored data))
 187           (setq cell (cdr cell))
 188           (insert (format "(mirrored\t\t. %S)
 189     "
 190                           cell))
 191           (setq data (del-alist 'mirrored data))
 192           )
 193         (cond
 194          ((setq cell (assq 'decimal-digit-value data))
 195           (setq cell (cdr cell))
 196           (insert (format "(decimal-digit-value . %S)
 197     "
 198                           cell))
 199           (setq data (del-alist 'decimal-digit-value data))
 200           (when (setq cell (assq 'digit-value data))
 201             (setq cell (cdr cell))
 202             (insert (format "(digit-value\t . %S)
 203     "
 204                             cell))
 205             (setq data (del-alist 'digit-value data))
 206             )
 207           (when (setq cell (assq 'numeric-value data))
 208             (setq cell (cdr cell))
 209             (insert (format "(numeric-value\t . %S)
 210     "
 211                             cell))
 212             (setq data (del-alist 'numeric-value data))
 213             )
 214           )
 215          (t
 216           (when (setq cell (assq 'digit-value data))
 217             (setq cell (cdr cell))
 218             (insert (format "(digit-value\t. %S)
 219     "
 220                             cell))
 221             (setq data (del-alist 'digit-value data))
 222             )
 223           (when (setq cell (assq 'numeric-value data))
 224             (setq cell (cdr cell))
 225             (insert (format "(numeric-value\t. %S)
 226     "
 227                             cell))
 228             (setq data (del-alist 'numeric-value data))
 229             )))
 230         (when (setq cell (assq 'iso-10646-comment data))
 231           (setq cell (cdr cell))
 232           (insert (format "(iso-10646-comment\t. %S)
 233     "
 234                           cell))
 235           (setq data (del-alist 'iso-10646-comment data))
 236           )
 237         (when (setq cell (assq 'morohashi-daikanwa data))
 238           (setq cell (cdr cell))
 239           (insert (format "(morohashi-daikanwa\t%s)
 240     "
 241                           (mapconcat (function prin1-to-string) cell " ")))
 242           (setq data (del-alist 'morohashi-daikanwa data))
 243           )
 244         (setq radical nil
 245               strokes nil)
 246         (when (setq cell (assq 'ideographic-radical data))
 247           (setq radical (cdr cell))
 248           (insert (format "(ideographic-radical . %S)\t; %c
 249     "
 250                           radical
 251                           (aref ideographic-radicals radical)))
 252           (setq data (del-alist 'ideographic-radical data))
 253           )
 254         (when (setq cell (assq 'ideographic-strokes data))
 255           (setq strokes (cdr cell))
 256           (insert (format "(ideographic-strokes . %S)
 257     "
 258                           strokes))
 259           (setq data (del-alist 'ideographic-strokes data))
 260           )
 261         (when (setq cell (assq 'kangxi-radical data))
 262           (setq cell (cdr cell))
 263           (unless (eq cell radical)
 264             (insert (format "(kangxi-radical\t . %S)\t; %c
 265     "
 266                             cell
 267                             (aref ideographic-radicals cell)))
 268             (setq radical cell))
 269           (setq data (del-alist 'kangxi-radical data))
 270           )
 271         (when (setq cell (assq 'kangxi-strokes data))
 272           (setq cell (cdr cell))
 273           (unless (eq cell strokes)
 274             (insert (format "(kangxi-strokes\t . %S)
 275     "
 276                             cell))
 277             (setq strokes cell))
 278           (setq data (del-alist 'kangxi-strokes data))
 279           )
 280         (when (setq cell (assq 'japanese-radical data))
 281           (setq cell (cdr cell))
 282           (unless (eq cell radical)
 283             (insert (format "(japanese-radical\t . %S)\t; %c
 284     "
 285                             cell
 286                             (aref ideographic-radicals cell)))
 287             (setq radical cell))
 288           (setq data (del-alist 'japanese-radical data))
 289           )
 290         (when (setq cell (assq 'japanese-strokes data))
 291           (setq cell (cdr cell))
 292           (unless (eq cell strokes)
 293             (insert (format "(japanese-strokes\t . %S)
 294     "
 295                             cell))
 296             (setq strokes cell))
 297           (setq data (del-alist 'japanese-strokes data))
 298           )
 299         (when (setq cell (assq 'cns-radical data))
 300           (setq cell (cdr cell))
 301           (insert (format "(cns-radical\t . %S)\t; %c
 302     "
 303                           cell
 304                           (aref ideographic-radicals cell)))
 305           (setq data (del-alist 'cns-radical data))
 306           )
 307         (when (setq cell (assq 'cns-strokes data))
 308           (setq cell (cdr cell))
 309           (unless (eq cell strokes)
 310             (insert (format "(cns-strokes\t . %S)
 311     "
 312                             cell))
 313             (setq strokes cell))
 314           (setq data (del-alist 'cns-strokes data))
 315           )
 316         (when (setq cell (assq 'total-strokes data))
 317           (setq cell (cdr cell))
 318           (insert (format "(total-strokes\t . %S)
 319     "
 320                           cell))
 321           (setq data (del-alist 'total-strokes data))
 322           )
 323         (when (setq cell (assq '->decomposition data))
 324           (setq cell (cdr cell))
 325           (insert (format "(->decomposition\t%s)
 326     "
 327                           (mapconcat (lambda (code)
 328                                        (cond ((symbolp code)
 329                                               (symbol-name code))
 330                                              ((integerp code)
 331                                               (format "#x%04X" code))
 332                                              (t
 333                                               (format "\n     %S" code))))
 334                                      cell " ")))
 335           (setq data (del-alist '->decomposition data))
 336           )
 337         (when (setq cell (assq '->uppercase data))
 338           (setq cell (cdr cell))
 339           (insert (format "(->uppercase\t%s)
 340     "
 341                           (mapconcat (lambda (code)
 342                                        (cond ((symbolp code)
 343                                               (symbol-name code))
 344                                              ((integerp code)
 345                                               (format "#x%04X" code))
 346                                              (t
 347                                               (format "\n     %S" code))))
 348                                      cell " ")))
 349           (setq data (del-alist '->uppercase data))
 350           )
 351         (when (setq cell (assq '->lowercase data))
 352           (setq cell (cdr cell))
 353           (insert (format "(->lowercase\t%s)
 354     "
 355                           (mapconcat (lambda (code)
 356                                        (cond ((symbolp code)
 357                                               (symbol-name code))
 358                                              ((integerp code)
 359                                               (format "#x%04X" code))
 360                                              (t
 361                                               (format "\n     %S" code))))
 362                                      cell " ")))
 363           (setq data (del-alist '->lowercase data))
 364           )
 365         (when (setq cell (assq '->titlecase data))
 366           (setq cell (cdr cell))
 367           (insert (format "(->titlecase\t%s)
 368     "
 369                           (mapconcat (lambda (code)
 370                                        (cond ((symbolp code)
 371                                               (symbol-name code))
 372                                              ((integerp code)
 373                                               (format "#x%04X" code))
 374                                              (t
 375                                               (format "\n     %S" code))))
 376                                      cell " ")))
 377           (setq data (del-alist '->titlecase data))
 378           )
 379         (setq data
 380               (sort data
 381                     (lambda (a b)
 382                       (char-attribute-name< (car a)(car b)))))
 383         (setq rest data)
 384         (while (and rest
 385                     (progn
 386                       (setq cell (car rest))
 387                       (if (setq ret (find-charset (car cell)))
 388                           (if (>= (length (symbol-name (charset-name ret))) 19)
 389                               (progn
 390                                 (setq has-long-ccs-name t)
 391                                 nil)
 392                             t)
 393                         t)))
 394           (setq rest (cdr rest)))
 395         (while data
 396           (setq cell (car data))
 397           (cond ((setq ret (find-charset (car cell)))
 398                  (or (string-match "^mojikyo-pj-"
 399                                    (symbol-name (charset-name ret)))
 400                      (insert
 401                       (format
 402                        (if has-long-ccs-name
 403                            (if (memq ret
 404                                      (list (find-charset 'ideograph-daikanwa)
 405                                            (find-charset 'mojikyo)))
 406                                "(%-26s . %05d)\t; %c
 407     "
 408                              "(%-26s . #x%X)\t; %c
 409     "
 410                              )
 411                          (if (memq ret
 412                                    (list (find-charset 'ideograph-daikanwa)
 413                                          (find-charset 'mojikyo)))
 414                              "(%-18s . %05d)\t; %c
 415     "
 416                            "(%-18s . #x%X)\t; %c
 417     "
 418                            ))
 419                        (charset-name ret)
 420                        (if (= (charset-iso-graphic-plane ret) 1)
 421                            (logior (cdr cell)
 422                                    (cond ((= (charset-dimension ret) 1)
 423                                           #x80)
 424                                          ((= (charset-dimension ret) 2)
 425                                           #x8080)
 426                                          ((= (charset-dimension ret) 3)
 427                                           #x808080)
 428                                          (t 0)))
 429                          (cdr cell))
 430                        (decode-builtin-char ret (cdr cell))))))
 431                 ((string-match "^->" (symbol-name (car cell)))
 432                  (insert
 433                   (format "(%-18s %s)
 434     "
 435                           (car cell)
 436                           (mapconcat (lambda (code)
 437                                        (cond ((symbolp code)
 438                                               (symbol-name code))
 439                                              ((integerp code)
 440                                               (format "#x%04X" code))
 441                                              (t
 442                                               (format "\n     %S" code))))
 443                                      (cdr cell) " "))))
 444                 ((consp (cdr cell))
 445                  (insert (format "(%-18s %s)
 446     "
 447                                  (car cell)
 448                                  (mapconcat (function prin1-to-string)
 449                                             (cdr cell) " "))))
 450                 ((eq (car cell) 'jisx0208-1978/4X)
 451                  (insert (format "(%-18s . #x%04X)
 452     "
 453                                  (car cell)(cdr cell))))
 454                 (t
 455                  (insert (format "(%-18s . %S)
 456     "
 457                                  (car cell)(cdr cell)))
 458                  ))
 459           (setq data (cdr data)))
 460         (insert "))\n")
 461         (goto-char (point-min))
 462         (while (re-search-forward "[ \t]+$" nil t)
 463           (replace-match ""))
 464         (goto-char (point-max))
 465         (tabify (point-min)(point-max))
 466         ))))
 467
 468 (defun decode-builtin-char (charset code-point)
 469   (setq charset (get-charset charset))
 470   (if (and (not (memq (charset-name charset)
 471                       '(ideograph-daikanwa mojikyo)))
 472            (or (memq (charset-name charset)
 473                      '(ascii latin-viscii-upper
 474                              latin-viscii-lower
 475                              arabic-iso8859-6
 476                              japanese-jisx0213-1
 477                              japanese-jisx0213-2))
 478                (= (char-int (charset-iso-final-char charset)) 0)))
 479       (decode-char charset code-point)
 480     (let ((table (charset-mapping-table charset)))
 481       (if table
 482           (prog2
 483               (set-charset-mapping-table charset nil)
 484               (decode-char charset code-point)
 485             (set-charset-mapping-table charset table))
 486         (decode-char charset code-point)))))
 487
 488 ;;;###autoload
 489 (defun char-db-update-comment ()
 490   (interactive)
 491   (save-excursion
 492     (goto-char (point-min))
 493     (let (cdef table char)
 494       (while (re-search-forward "^[ \t]*\\(([^.()]+)\\)" nil t)
 495         (goto-char (match-beginning 1))
 496         (setq cdef (read (current-buffer)))
 497         (when (find-charset (car cdef))
 498           (goto-char (match-end 0))
 499           (setq char
 500                 (if (and
 501                      (not (eq (car cdef) 'ideograph-daikanwa))
 502                      (or (memq (car cdef) '(ascii latin-viscii-upper
 503                                                   latin-viscii-lower
 504                                                   arabic-iso8859-6
 505                                                   japanese-jisx0213-1
 506                                                   japanese-jisx0213-2))
 507                          (= (char-int (charset-iso-final-char (car cdef)))
 508                             0)))
 509                     (apply (function make-char) cdef)
 510                   (if (setq table (charset-mapping-table (car cdef)))
 511                       (set-charset-mapping-table (car cdef) nil))
 512                   (prog1
 513                       (apply (function make-char) cdef)
 514                     (if table
 515                         (set-charset-mapping-table (car cdef) table)))))
 516           (when (not (or (< (char-int char) 32)
 517                          (and (<= 128 (char-int char))
 518                               (< (char-int char) 160))))
 519             (delete-region (point) (point-at-eol))
 520             (insert (format "\t; %c" char)))
 521           )))))
 522
 523 (defun insert-char-data-with-variant (char)
 524   (insert-char-data char)
 525   (let ((variants (or (char-variants char)
 526                       (let ((ucs (get-char-attribute char '->ucs)))
 527                         (if ucs
 528                             (delete char (char-variants (int-char ucs))))))))
 529     (while variants
 530       (insert-char-data (car variants))
 531       (setq variants (cdr variants))
 532       )))
 533
 534 (defun insert-char-range-data (min max)
 535   (let ((code min)
 536         char)
 537     (while (<= code max)
 538       (setq char (int-char code))
 539       (insert-char-data-with-variant char)
 540       (setq code (1+ code))
 541       )))
 542
 543 (defun write-char-range-data-to-file (min max file)
 544   (let ((coding-system-for-write 'utf-8))
 545     (with-temp-buffer
 546       (insert-char-range-data min max)
 547       (write-region (point-min)(point-max) file))))
 548
 549 (defvar what-character-original-window-configuration)
 550
 551 ;;;###autoload
 552 (defun what-char-definition (char)
 553   (interactive (list (char-after)))
 554   (let ((buf (get-buffer-create "*Character Description*"))
 555         (the-buf (current-buffer))
 556         (win-conf (current-window-configuration)))
 557     (pop-to-buffer buf)
 558     (make-local-variable 'what-character-original-window-configuration)
 559     (setq what-character-original-window-configuration win-conf)
 560     (setq buffer-read-only nil)
 561     (erase-buffer)
 562     (condition-case err
 563         (progn
 564           (insert-char-data-with-variant char)
 565           ;; (char-db-update-comment)
 566           (set-buffer-modified-p nil)
 567           (view-mode the-buf (lambda (buf)
 568                                (set-window-configuration
 569                                 what-character-original-window-configuration)
 570                                ))
 571           (goto-char (point-min)))
 572       (error (progn
 573                (set-window-configuration
 574                 what-character-original-window-configuration)
 575                (signal (car err) (cdr err)))))))
 576
 577 (provide 'char-db-util)
 578
 579 ;;; char-db-util.el ends here