Очистка HTML путем удаления лишних/избыточных тегов форматирования


Я использую Редактор CKEditor редактор wysiwyg для веб-сайта, где пользователям разрешено использовать редактор HTML для добавления некоторых комментариев. В итоге у меня в базе данных появился чрезвычайно избыточный вложенный HTML-код, который замедляет просмотр/редактирование этих комментариев.

У меня есть комментарии, которые выглядят так (это очень маленький пример. У меня есть комментарии с более чем 100 вложенными тегами):

<p>
 <strong>
  <span style="font-size: 14px">
   <span style="color: #006400">
     <span style="font-size: 14px">
      <span style="font-size: 16px">
       <span style="color: #006400">
        <span style="font-size: 14px">
         <span style="font-size: 16px">
          <span style="color: #006400">This is a </span>
         </span>
        </span>
       </span>
      </span>
     </span>
    </span>
    <span style="color: #006400">
     <span style="font-size: 16px">
      <span style="color: #b22222">Test</span>
     </span>
    </span>
   </span>
  </span>
 </strong>
</p>

Мои вопросы таковы:

  • Есть ли какие-либо библиотека/код/программное обеспечение, которое может выполнять интеллектуальную (т. Е. с учетом формата) очистку HTML-кода, удаляя все избыточные теги, которые не влияют на форматирование (потому что они переопределяются внутренними тегами)? Я перепробовал множество существующих онлайн-решений (таких как HTML Tidy). Никто из них не делает того, чего я хочу.

  • Если нет, мне нужно будет написать некоторый код для синтаксического анализа и очистки HTML. Я планирую использовать PHP Простой HTML DOM для обхода дерева HTML и поиска всех тегов, которые не имеют никакого эффекта. Вы предлагаете какой-либо другой синтаксический анализатор HTML, который больше подходит для моей цели?

Спасибо

.

Обновление:

Я написал некоторый код для анализа имеющегося у меня HTML-кода. Все HTML-теги, которые у меня есть, следующие:

  • <span> со стилями для font-size и/или color
  • <font> с атрибутами color и/или size
  • <a> для ссылок (с href)
  • <strong>
  • <p> ( один тег, чтобы обернуть весь комментарий)
  • <u>

Я могу легко написать некоторый код для преобразования HTML-кода в bbcode (например, [b], [color=blue], [size=3], и т.д.). Так что я выше HTML стану чем-то вроде:

[b][size=14][color=#006400][size=14][size=16][color=#006400]
[size=14][size=16][color=#006400]This is a [/color][/size]
[/size][/color][/size][/size][color=#006400][size=16]
[color=#b22222]Test[/color][/size][/color][/color][/size][/b]

Вопрос теперь таков: Есть ли простой способ (алгоритм/библиотека/и т. Д.) Очистить беспорядочный (такой же беспорядочный, как и исходный HTML) bbcode, который будет сгенерированный?

Еще раз спасибо

Author: Ozzy, 2012-04-20

11 answers

Введение

Лучшее решение, которое я видел до сих пор, - это использование HTML Tidy http://tidy.sourceforge.net/

Помимо преобразования формата документа, Tidy также может автоматически преобразовывать устаревшие HTML-теги в их аналоги каскадной таблицы стилей (CSS) с помощью опции очистки. Сгенерированный вывод содержит встроенное объявление стиля.

Это также гарантирует, что HTML-документ xhtml совместим

Пример

$code ='<p>
 <strong>
  <span style="font-size: 14px">
   <span style="color: #006400">
     <span style="font-size: 14px">
      <span style="font-size: 16px">
       <span style="color: #006400">
        <span style="font-size: 14px">
         <span style="font-size: 16px">
          <span style="color: #006400">This is a </span>
         </span>
        </span>
       </span>
      </span>
     </span>
    </span>
    <span style="color: #006400">
     <span style="font-size: 16px">
      <span style="color: #b22222">Test</span>
     </span>
    </span>
   </span>
  </span>
 </strong>
</p>';

Если вы ЗАПУСТИТЕ

$clean = cleaning($code);
print($clean['body']);

Вывод

<p>
    <strong>
        <span class="c3">
            <span class="c1">This is a</span> 
                <span class="c2">Test</span>
            </span>
        </strong>
</p>

Вы можете получить CSS

$clean = cleaning($code);
print($clean['style']);

Вывод

<style type="text/css">
    span.c3 {
        font-size: 14px
    }

    span.c2 {
        color: #006400;
        font-size: 16px
    }

    span.c1 {
        color: #006400;
        font-size: 14px
    }
</style>

Наш ПОЛНЫЙ HTML

$clean = cleaning($code);
print($clean['full']);

Вывод

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN"
"http://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
  <head>
    <title></title>
    <style type="text/css">
/*<![CDATA[*/
    span.c3 {font-size: 14px}
    span.c2 {color: #006400; font-size: 16px}
    span.c1 {color: #006400; font-size: 14px}
    /*]]>*/
    </style>
  </head>
  <body>
    <p>
      <strong><span class="c3"><span class="c1">This is a</span>
      <span class="c2">Test</span></span></strong>
    </p>
  </body>
</html>

Используемая функция

function cleaning($string, $tidyConfig = null) {
    $out = array ();
    $config = array (
            'indent' => true,
            'show-body-only' => false,
            'clean' => true,
            'output-xhtml' => true,
            'preserve-entities' => true 
    );
    if ($tidyConfig == null) {
        $tidyConfig = &$config;
    }
    $tidy = new tidy ();
    $out ['full'] = $tidy->repairString ( $string, $tidyConfig, 'UTF8' );
    unset ( $tidy );
    unset ( $tidyConfig );
    $out ['body'] = preg_replace ( "/.*<body[^>]*>|<\/body>.*/si", "", $out ['full'] );
    $out ['style'] = '<style type="text/css">' . preg_replace ( "/.*<style[^>]*>|<\/style>.*/si", "", $out ['full'] ) . '</style>';
    return ($out);
}

================================================

Правка 1: Грязный Взлом (Не рекомендуется)

================================================

Основываясь на вашем последнем комментарии, похоже, что вы хотите сохранить стиль амортизации.. HTML Tidy может не позволить вам сделать это, так как его depreciated, но вы можете сделать это

$out = cleaning ( $code );
$getStyle = new css2string ();
$getStyle->parseStr ( $out ['style'] );
$body = $out ['body'];
$search = array ();
$replace = array ();

foreach ( $getStyle->css as $key => $value ) {
    list ( $selector, $name ) = explode ( ".", $key );
    $search [] = "<$selector class=\"$name\">";
    $style = array ();
    foreach ( $value as $type => $att ) {
        $style [] = "$type:$att";
    }
    $replace [] = "<$selector style=\"" . implode ( ";", $style ) . ";\">";
}

Вывод

<p>
  <strong>
      <span style="font-size:14px;">
        <span style="color:#006400;font-size:14px;">This is a</span>
        <span style="color:#006400;font-size:16px;">Test</span>
        </span>
  </strong>
</p>

Используемый класс

//Credit : http://stackoverflow.com/a/8511837/1226894
class css2string {
var $css;

function parseStr($string) {
    preg_match_all ( '/(?ims)([a-z0-9, \s\.\:#_\-@]+)\{([^\}]*)\}/', $string, $arr );
    $this->css = array ();
    foreach ( $arr [0] as $i => $x ) {
        $selector = trim ( $arr [1] [$i] );
        $rules = explode ( ';', trim ( $arr [2] [$i] ) );
        $this->css [$selector] = array ();
        foreach ( $rules as $strRule ) {
            if (! empty ( $strRule )) {
                $rule = explode ( ":", $strRule );
                $this->css [$selector] [trim ( $rule [0] )] = trim ( $rule [1] );
            }
        }
    }
}

function arrayImplode($glue, $separator, $array) {
    if (! is_array ( $array ))
        return $array;
    $styleString = array ();
    foreach ( $array as $key => $val ) {
        if (is_array ( $val ))
            $val = implode ( ',', $val );
        $styleString [] = "{$key}{$glue}{$val}";

    }
    return implode ( $separator, $styleString );
}

function getSelector($selectorName) {
    return $this->arrayImplode ( ":", ";", $this->css [$selectorName] );
}

}
 20
Author: Baba, 2012-04-27 12:07:10

Вам следует заглянуть в HTMLPurifier, это отличный инструмент для анализа HTML и удаления из него ненужного и небезопасного контента. Посмотрите на конфигурации удаления пустых промежутков и прочее. Я признаю, что это может быть немного сложно настроить, но это только потому, что он настолько универсален.

Он также довольно тяжелый, поэтому вы захотите сохранить его вывод в базе данных (в отличие от чтения исходного кода из базы данных, а затем каждый раз анализировать его с помощью очистителя.

 5
Author: Dunhamzzz, 2012-04-20 14:30:42

Вот решение, которое использует браузер для получения свойств вложенного элемента. Нет необходимости каскадировать свойства вверх, так как вычисляемые стили css готовы для чтения из браузера.

Вот пример: http://jsfiddle.net/mmeah/fUpe8/3/

var fixedCode = readNestProp($("#redo"));
$("#simp").html( fixedCode );

function readNestProp(el){
 var output = "";
 $(el).children().each( function(){
    if($(this).children().length==0){
        var _that=this;
        var _cssAttributeNames = ["font-size","color"];
        var _tag = $(_that).prop("nodeName").toLowerCase();
        var _text = $(_that).text();
        var _style = "";
        $.each(_cssAttributeNames, function(_index,_value){
            var css_value = $(_that).css(_value);
            if(typeof css_value!= "undefined"){
                _style += _value + ":";
                _style += css_value + ";";
            }
        });
        output += "<"+_tag+" style='"+_style+"'>"+_text+"</"+_tag+">";
    }else if(
        $(this).prop("nodeName").toLowerCase() !=
        $(this).find(">:first-child").prop("nodeName").toLowerCase()
    ){
        var _tag = $(this).prop("nodeName").toLowerCase();
        output += "<"+_tag+">" + readNestProp(this) + "</"+_tag+">";
    }else{
        output += readNestProp(this);
    };
 });
 return output;
}

Лучшее решение для ввода всех возможных атрибутов css, таких как:
var _cssAttributeNames = ["размер шрифта", "цвет"];
Заключается в использовании решения, подобного упомянутому здесь: Может ли jQuery получить все стили CSS связанный с элементом?

 5
Author: MMeah, 2017-05-23 12:01:59

У меня нет времени заканчивать это... может быть, кто-то еще сможет помочь. Этот javascript удаляет точные повторяющиеся теги, а также запрещенные теги...

Есть несколько проблем/вещей, которые нужно сделать,
1) регенерированные теги должны быть закрыты
2) он удалит тег только в том случае, если имя и атрибуты тега идентичны другим внутри дочерних узлов, поэтому он недостаточно "умен", чтобы удалить все ненужные теги.
3) он будет просматривать разрешенные переменные CSS и извлекать ВСЕ эти значения из элемента, а затем запишите их в выходной HTML, например:

var allowed_css = ["color","font-size"];
<span style="font-size: 12px"><span style="color: #123123">

Будет переведено на:

<span style="color:#000000;font-size:12px;"> <!-- inherited colour from parent -->
<span style="color:#123123;font-size:12px;"> <!-- inherited font-size from parent -->

Код:

<html>

<head>
<script type="text/javascript">
var allowed_css = ["font-size", "color"];
var allowed_tags = ["p","strong","span","br","b"];
function initialise() {
    var comment = document.getElementById("comment");
    var commentHTML = document.getElementById("commentHTML");
    var output = document.getElementById("output");
    var outputHTML = document.getElementById("outputHTML");
    print(commentHTML, comment.innerHTML, false);
    var out = getNodes(comment);
    print(output, out, true);
    print(outputHTML, out, false);
}
function print(out, stringCode, allowHTML) {
    out.innerHTML = allowHTML? stringCode : getHTMLCode(stringCode);
}
function getHTMLCode(stringCode) {
    return "<code>"+((stringCode).replace(/</g,"&lt;")).replace(/>/g,"&gt;")+"</code>";
}
function getNodes(elem) {
    var output = "";
    var nodesArr = new Array(elem.childNodes.length);
    for (var i=0; i<nodesArr.length; i++) {
        nodesArr[i] = new Array();
        nodesArr[i].push(elem.childNodes[i]);
        getChildNodes(elem.childNodes[i], nodesArr[i]);
        nodesArr[i] = removeDuplicates(nodesArr[i]);
        output += nodesArr[i].join("");
    }
    return output;
}
function removeDuplicates(arrayName) {
    var newArray = new Array();
    label:
    for (var i=0; i<arrayName.length; i++) {  
        for (var j=0; j<newArray.length; j++) {
            if(newArray[j]==arrayName[i])
                continue label;
        }
        newArray[newArray.length] = arrayName[i];
    }
    return newArray;
}
function getChildNodes(elemParent, nodesArr) {
    var children = elemParent.childNodes;
    for (var i=0; i<children.length; i++) {
        nodesArr.push(children[i]);
        if (children[i].hasChildNodes())
            getChildNodes(children[i], nodesArr);
    }
    return cleanHTML(nodesArr);
}
function cleanHTML(arr) {
    for (var i=0; i<arr.length; i++) {
        var elem = arr[i];
        if (elem.nodeType == 1) {
            if (tagNotAllowed(elem.nodeName)) {
                arr.splice(i,1);
                i--;
                continue;
            }
            elem = "<"+elem.nodeName+ getAttributes(elem) +">";
        }
        else if (elem.nodeType == 3) {
            elem = elem.nodeValue;
        }
        arr[i] = elem;
    }
    return arr;
}
function tagNotAllowed(tagName) {
    var allowed = " "+allowed_tags.join(" ").toUpperCase()+" ";
    if (allowed.search(" "+tagName.toUpperCase()+" ") == -1)
        return true;
    else
        return false;
}
function getAttributes(elem) {
    var attributes = "";
    for (var i=0; i<elem.attributes.length; i++) {
      var attrib = elem.attributes[i];
      if (attrib.specified == true) {
        if (attrib.name == "style") {
            attributes += " style=\""+getCSS(elem)+"\"";
        } else {
            attributes += " "+attrib.name+"=\""+attrib.value+"\"";
        }
      }
    }
    return attributes
}
function getCSS(elem) {
    var style="";
    if (elem.currentStyle) {
        for (var i=0; i<allowed_css.length; i++) {
            var styleProp = allowed_css[i];
            style += styleProp+":"+elem.currentStyle[styleProp]+";";
        }
    } else if (window.getComputedStyle) {
        for (var i=0; i<allowed_css.length; i++) {
            var styleProp = allowed_css[i];
            style += styleProp+":"+document.defaultView.getComputedStyle(elem,null).getPropertyValue(styleProp)+";";
        }
    }
    return style;
}
</script>
</head>

<body onload="initialise()">

<div style="float: left; width: 300px;">
<h2>Input</h2>
<div id="comment">
<p> 
 <strong> 
  <span style="font-size: 14px"> 
   <span style="color: #006400"> 
     <span style="font-size: 14px"> 
      <span style="font-size: 16px"> 
       <span style="color: #006400"> 
        <span style="font-size: 14px"> 
         <span style="font-size: 16px"> 
          <span style="color: #006400">This is a </span> 
         </span> 
        </span> 
       </span> 
      </span> 
     </span> 
    </span> 
    <span style="color: #006400"> 
     <span style="font-size: 16px"> 
      <span style="color: #b22222"><b>Test</b></span> 
     </span> 
    </span> 
   </span> 
  </span> 
 </strong> 
</p> 
<p>Second paragraph.
<span style="color: #006400">This is a span</span></p>
</div>
<h3>HTML code:</h3>
<div id="commentHTML"> </div>
</div>

<div style="float: left; width: 300px;">
<h2>Output</h2>
<div id="output"> </div>
<h3>HTML code:</h3>
<div id="outputHTML"> </div>
</div>

<div style="float: left; width: 300px;">
<h2>Tasks</h2>
<big>
<ul>
<li>Close Tags</li>
<li>Ignore inherited CSS style in method getCSS(elem)</li>
<li>Test with different input HTML</li>
</ul>
</big>
</div>

</body>

</html>
 2
Author: Ozzy, 2012-04-23 05:08:21

Возможно, это не совсем точно решает вашу конкретную проблему, но то, что я бы сделал на вашем месте, - это просто полностью удалить все HTML-теги, сохранить только текст и разрывы строк.

После того, как это было сделано, переключитесь на уценку нашего bbcode, чтобы лучше форматировать ваши комментарии. WYSIWYG редко бывает полезен.

Причина в том, что вы сказали, что все, что у вас было в комментариях, - это презентационные данные, которые, честно говоря, не так уж и важны.

 1
Author: Madara Uchiha, 2012-04-23 05:39:41

Очистка HTML сворачивает теги, которые, похоже, являются тем, о чем вы просите. Тем не менее, он создает проверенный HTML-документ с CSS, перемещенным во встроенные стили. Многие другие формататоры HTML не будут этого делать, потому что это изменяет структуру HTML-документа.

 1
Author: Jason, 2012-04-25 17:27:23

Я помню, что в Adobe (Macromedia) Dreamweaver, по крайней мере, в немного старых версиях, была опция "Очистить HTML", а также "Очистить html word" Для удаления избыточных тегов и т. Д. С любой веб-страницы.

 0
Author: Manoj Solanki, 2012-04-20 14:50:21

Я знаю, что вы ищете средство для очистки HTML DOM, но, может быть, js может помочь?

function getSpans(){ 
var spans=document.getElementsByTagName('span') 
    for (var i=0;i<spans.length;i++){ 
    spans[i].removeNode(true);
        if(i == spans.length) {
        //add the styling you want here
        }
    } 
} 
 0
Author: squarephoenix, 2012-04-20 14:55:14

Вместо того, чтобы тратить свое драгоценное серверное время на разбор плохого HTML, я бы посоветовал вам вместо этого устранить корень проблемы.

Простым решением было бы ограничить количество символов, которые мог бы использовать каждый комментатор, чтобы включить все количество символов html, а не только количество текста (по крайней мере, это остановило бы бесконечно большие вложенные теги).

Вы могли бы улучшить это, разрешив пользователю переключаться между просмотром HTML и просмотром текста - я уверен, что большинство людей увидят кучу мусора когда в представлении HTML и просто нажмите CTRL+A и УДАЛИТЕ его.

Я думаю, было бы лучше, если бы у вас были свои собственные символы форматирования, которые вы бы проанализировали и заменили форматированием, например, как у переполнения стека **bold text**, видимого на плакате. Или подойдет просто BB-код, видимый на плакате.

 0
Author: Ozzy, 2012-04-22 17:26:53

Попробуйте не анализировать HTML с помощью DOM, а, возможно, с помощью SAX(http://www.brainbell.com/tutorials/php/Parsing_XML_With_SAX.htm )

SAX анализирует документ с самого начала и отправляет события, такие как "начало элемента" и "конец элемента", для вызова функций обратного вызова, которые вы определяете

Затем вы можете создать своего рода стек для всех событий, если у вас есть текст, вы можете сохранить влияние вашего стека на этот текст.

После этого вы обрабатываете стек для создания нового HTML только с помощью тот эффект, который вы хотите.

 0
Author: HerrSerker, 2012-04-23 17:27:20

Если вы хотите использовать jQuery, попробуйте следующее:

<p>
<strong>
  <span style="font-size: 14px">
   <span style="color: #006400">
     <span style="font-size: 14px">
      <span style="font-size: 16px">
       <span style="color: #006400">
        <span style="font-size: 14px">
         <span style="font-size: 16px">
          <span style="color: #006400">This is a </span>
         </span>
        </span>
       </span>
      </span>
     </span>
    </span>
    <span style="color: #006400">
     <span style="font-size: 16px">
      <span style="color: #b22222">Test</span>
     </span>
    </span>
   </span>
  </span>
 </strong>
</p>
<br><br>
<div id="out"></div> <!-- Just to print it out -->


$("span").each(function(i){
    var ntext = $(this).text();
    ntext = $.trim(ntext.replace(/(\r\n|\n|\r)/gm," "));
    if(i==0){
        $("#out").text(ntext);
    }        
});

В результате вы получаете следующее:

<div id="out">This is a                                                                    Test</div>

Затем вы можете отформатировать его так, как захотите. Надеюсь, это поможет вам немного по-другому взглянуть на это...

 0
Author: Paul, 2012-04-25 17:13:39