StreamRotator. Релиз.
Новая тема Написать ответ
# Сб Июн 24, 2006 1:27 amdushik Зарег.: 24.06.2006 ; Сообщ.: 2Ответить с цитатой
Всем привет. Рад сообщить, что тестирование StreamRotator-а завершено и теперь я могу без зазрения совести представить его на суд общественности

StreamRotator - программный комплекс, содержащий в себе модули граббера и ротатора для тумбовых и текстовых сиджей. Изначально скрипт разрабатывался для собственных нужд, но как это часто бывает с удачными идеями, он очень быстро начал жить своей жизнью, и, в конце концов, мы имеем вот такой вот топик.

С февраля 2006 скрипт тестировался на ~100 сиджах у ~15 тестеров, как на dedicate-серверах так и на виртуальных хостингах нескольких популярных русских хостеров.

Ротатор имеет 2 версии:
1. Условно-бесплатная – забирает в качестве оплаты за использование 1% кликов, а также несколько урезанная функционально (например, в ней отключен FTP-модуль)
2. Полнофункциональная платная версия. Цена лицензии для одного домена 150$.

В дальнейшем для условно-бесплатной версии не будут производиться принципиальные разработки, только исправления ошибок. Несмотря на это, такая версия позволит почувствовать весь потенциал StreamRotator-а, а также создавать нормально функционирующие стабильные сайты. Чтобы перейти с условно-бесплатной на платную версии понадобиться только прописать в настройках лицензию для вашего домена. Никак телодвижений со скриптами производить не понадобиться. Т.е. в условно-бесплатной версии можно ознакомиться с админкой, протестировать работу граббера, посмотреть какую продуктивность на сайте может обеспечить ротатор, а потом безболезненно переходить на платную версию.

Платная версия - это основная ветвь развития скрипта. Самые "вкусные" новинки, такие как Affiliate Manager (подробнее о нем - в конце), TGP-модуль, будут доступны только для нее.




Ну а теперь, краткое описание возможностей скрипта:

Скрипт реализован на php с использованием mysql, gdlib, imagemagick, cron.
StreamRotator протестирован на совместимость с большинством популярных cj-скриптов — ATX/AT3, TM3, EasyTrade, FET, ATS, PROTON и т.д.
В работе с mysql широко используются heap-таблицы. В отличие от всех остальных видов таблиц mysql, heap-таблицы существуют только в памяти компьютера. Это позволяет работать с ними на несколько порядков быстрее, чем с обычными данными. Другими словами, при сборе/обработке статистики, обращений к дисковой подсистеме не происходит.
Отказоустойчивая схема работы с mysql. При сбое сервера базы данных mysql, ротатор продолжает работать в нормальном штатном режиме, за исключением того, что статистика по показам/кликам не собирается и не анализируется.
Система апдейтов. Для того, чтобы обновить скрипт до последней версии, достаточно одного клика в админке. Перед каждым апдейтом делается резервное копирование скриптов и базы данных, и в случае сбоя при обновлении система будет автоматически восстановлена до работоспособного состояния.
Простая, интуитивно понятная админка. Большинство пользователей отмечают, что разобрались со скриптом без руководства. Хотя читать мануал я все таки настоятельно рекомендую.
Минимальная нагрузка на сервер. За счет практически полного отказа от использования дисковой подсистемы, а также за счет предгенерации и кэширования контента, ротатор потребляет минимум ресурсов сервера. Он отлично справляется с ротацией десятков и сотен тысяч тумб.



Граббер:
Граббер работает в фоновом режиме. Это значит, что мы один раз занесем список галь в очередь на грабинг, и нажмем кнопку "grab". Все остальное сделает скрипт — он будет изготовлять тумбы небольшими порциями каждую минуту. Какого-либо контроля или ожидания с Вашей стороны не требуется.
2 режима работы — полуавтомат и полный автомат. Отличие состоит в том что в режиме "полный автомат" отграбленные тумбы сразу попадают в ротацию, а в полуавтоматическом режиме в ротацию попадут только выбранные пользователем тумбы (из предварительно отграбленных скриптом). Их может быть несколько для одной галереи, в последствии останется лучшая из них.
Грабит как пиксовые галереи, так и мувисные. А также галереи, переход к которым осуществляется через редирект, галереи которые содержат ссылки на страницы с изображениями, а не ссылки на изображения (как это обычно принято), другие "нестандартные" галереи (например videoscash-а).
При несовпадении форматов тумбы и исходной картинки, создается несколько тумб с разных участков пикчи. Например, если формат тумбы вертикальный (высота больше ширины), а формат исходной картинки горизонтальный (ширина больше высоты), то будут созданы 3 тумбы - вырезанные из центральной, левой и правой частей картинки. И наоборот.
Несколько попыток граба "проблемных" галерей. Если html-код галереи или картинку не удалось сграбить с первого раза, через некоторое время будут осуществлены еще несколько попыток граба. У серверов партнерок тоже бывают проблемы...
Наложение логотипа на тумбы от мувисных галь. Имеется возможность выбирать случайные лого и лепить их в случайный угол тумбы.
Фильтры собственной разработки. Например, усиление бликов и осветление темных мест тумбы.
Есть возможность для определенных зон ротации грабить только мувисные или пиксовые гали (или и те и другие). Например, можно сделать блок на морде сиджа только с пиксовыми или только с мувисными галереями. При этом не придется при вводе списка fhg специально отбирать, какие fhg нужны для пиксового блока тумб, а какие для мувисного. Скрипт все сделает сам.
Crop Profiles. Набор параметров кроппинга, таких как яркость, насыщенность, тип и расположение логотипа для мувисных тумб и т.д. можно сохранять в профайлах, количество которых не ограничено.
Постановка заданий в очередь на граббинг идет в случайном порядке. Дело в том, что сразу же после того как были отграблены первые тумбы, ротатор приступит к работе. Для того, чтобы контент для сиджа был максимально разнообразным, тумбы и галереи грабятся в случайном порядке.
Контроль времени выполнения граббера. Время выполнения скрипта и количество выполненных операций граббера за один шаг рассчитывается таким образом, чтобы не перегрузить сервер с одной стороны, и создать максимально возможное количество тумб за единицу времени, с другой. Иными словами, скрипт не будет перегружать загруженный сервер.



Ротатор:
Поддерживаются текстовые и тумбовые зоны ротации.
Выявление для каждой галереи лучшей тумбы. Для каждой картинки галереи будет сделана тумба. После тестирования всех тумб галереи, будет выбрана одна лучшая для дальнейшей ротации.
Неуникальным посетителям показываются новые тумбы. Скрипт отслеживает каждого посетителя, и осуществляет для него имитацию очень часто обновляемой TGP.
Плохой трафик (noref, nocoockie, noJS, поисковые боты и др.) а также двойные клики по одной и той же тумбе не влияет на подсчет статистики. Также не учитываются клики, сделанные после N-го (по умолчанию 8-го) клика. Т.е. различные боты и любой подозрительный траф не будет портить статистику по тумбам.
Адаптивная скорость регенерации морды сиджа. Это значит, что при минимуме статистики ротация будут происходить очень быстро — ротатор за считанные минуты выберет наиболее кликабельные тумбы, и не будет требовать уймы трафика для тестирования тумб. И наоборот, когда все тщательно протестировано, морда будет генерироваться один раз в 20 минут, что сведет нагрузку на сервер к минимуму.
Вычисление кликабельности ячеек в фоновом режиме. В большинстве скриптов подобного рода для тестирования популярности ячеек на морде необходим специальный режим. В StreamRotatore такого выделенного режима нет, все осуществляется в фоновом режиме. Скрипт сразу попытается установить ячейкам коэффициенты популярности, исходя из их расположения. И в дальнейшем будет плавно их корректировать.
Простая и гибкая система шаблонов. Одна минута — и морда сиджа готова: никакой ручной нумерации ссылок, мест для тумб и прочей ерунды. Есть возможность одновременного использования кодированных и некодированных урлов — например в alt-е или статусе мы показываем настоящий url, а в ссылке закодированный.
Статистика популярности тумб (ctr, rank) анализируется не за все время существования тумбы, а только за последние N - показов. Это позволяет более оперативно реагировать на изменение популярности тумб. Следует отметить, что статистика не просто сбрасывается после N количества показов, а перессчитывается плавно, без скачков.
Есть возможность отключить влияние на статистику ротатора определенных типов трафа. Например, при использовании подлива. Если ниша подливаемого трафика не совпадает с нишей Вашего сиджа, пускаем этот подлив на специальный url и этот трафик не будет влиять на статистику ротатора.
FTP модуль. Позволяет хранить тумбы на другом сервере.




Ну а теперь приоткрою завесу над ближайшими планами по развитию StreamRotator-а:

1. Affiliate Manager. Это менеджер партнерок/платников. Вам была бы интересна возможность проставить для тумб разных спонсоров разный ским? А хранить их на разных удаленных хостах? Удалять/отключать все FHG для какой либо партнерки одним щелчком мыши? Все это, а также массу других полезных вещей можно будет осуществить с помощью этого инструмента.
2. TGP-модуль. Тут все ясно. Плох тот CJ, который не мечтает стать TGP

Кроме этого Вас ждет масса полезных, и я бы сказал необычных новинок.

И не забывайте – если у Вас есть пожелания по расширению функциональности скрипта, разработчик будет счастлив воплотить их в жизнь

На все дополнительные вопросы я всегда рад буду ответить в этом топике, и по аське.
# Сб Июн 24, 2006 12:57 pmdushik Зарег.: 24.06.2006 ; Сообщ.: 2Ответить с цитатой
Вот скриншот моего небольшого нетворка на котором это все хазяйство тестировалось:



Все сиджики имеют ским 70% и неплохо себя чуствуют. Прошу обратить внимание на количество трафика уходящего на галереи.

Вот собственно урлы этих сиджей, на которых можно заодно посмотреть на качество тумб (откропленных в полном автомате):
starsfactory.com
neon-girls.com
starsparadise.com
aggressivebabes.com
drbigboobs.com
x-glamour.com


Теперь приведу скриншотик, показывающий среднее время отработки инов и аутов ротатора по часам с самомо крупного моего сиджа (100-120k)



колонки означают: час, количество инов, среднее время ина в секундах, количество аутов, среднее время аута в секундах


И напоследок несколько слов о тех самых фильтрах которые "собственной разработки"

1. Shine. Фильтр усиливает блики на светлых участках картинки. Например:


Shine=0%



Shine=5% (default)



Shine=10%



2. Фильтр Dark. Освещает темные участки картинки:


Dark=0% (default)



Dark=30%
(внимание на волосы)
Новая тема Написать ответ    ГЛАВНАЯ ~ РЕКЛАМА И ОБЪЯВЛЕНИЯ
 
Любое использование материалов, размещенных на ArmadaBoard.com, без разрешения владельцев ArmadaBoard.com запрещено.