U
    Ch0                    @   s   d dl Z d dlZd dlZd dlZd dlZd dlZd dlZd dlZd dl	Z	d dl
mZ d dlmZ d dlmZ d dlmZmZmZmZmZmZ d dlZd dlZd dlmZ d dlmZ d dlT d d	lmZ d d
l m!Z! dd Z"G dd dej#Z#dS )    N)Path)Queue)Thread)CallableDictListOptionalTypeUnion)BeautifulSoupcmf_context)*)cmf_plugin_you_track)YouTrackClientc                    s    fdd}|S )Nc                    s    fdd}|S )Nc                    s   } j dkr"|d|d  7 }n0 j dkrR|d|d d  d|d d  d	7 }z2| jjd
 d| dd
 dd  | f||W S  tk
r   t  |  jd7  _| jd|  Y nX d S )N_simple_dump    _process_issuer   
idReadable (id)z=====T	anonymousu   Ошибка )__name__
cmf_importlog	Exceptioncmf_rollback
has_errors	log_error)objargskwargs_name)funcname 1./modules/youtrack/models/cmf_plugin_you_track.pywrapper   s    

& z3catch_exception.<locals>.decorator.<locals>.wrapperr(   )r&   r*   r'   )r&   r)   	decorator   s    z"catch_exception.<locals>.decoratorr(   )r'   r,   r(   r+   r)   catch_exception   s    r-   c                       sB  e Zd ZU ejjd Zejjddg Zeed< e	e
ef ed<  fddZedd	 Zee	e
ef d
ddZede
e
e
e
dddZeee
dddZedd Zee
eee  dddZedd ZeedddZeedd d!Zeedd"d#Zeedd$d%Zed&d' Zed(d) Zd*d+ Zd,d- Zd.d/ Z ed0d1 Z!ed2d3 Z"dd4d5Z#dee ed6d7d8Z$d9d: Z%e
d;d<d=Z&d>d? Z'e
d@dAdBZ(e
dCdDdEZ)e
e
dFdGdHZ*dIdJ Z+e,dKdLdMZ-ddNdOZ.dPdQ Z/dRdS Z0ddVdWZ1e2dXe
d@dYdZZ3d[d\ Z4e,dKd]d^Z5de
e
d_d`daZ6deee
e
dbdcddZ7dedf Z8dgdh Z9didj Z:dkdl Z;ddndoZ<e2dpdqdr Z=e2dsdtdu Z>edvdwdxZ?dydz Z@e2d{e
e
d|d}d~ZAe2ddd ZBe2ddd ZCe2ddd ZDe2ddd ZEe2ddd ZFe2ddd ZGe2ddd ZHdd ZIdd ZJdd ZKdd ZLe2ddd ZMe2ddd ZNe2ddd ZOdd ZPe2ddd ZQdd ZRe2ddd ZSe2ddd ZTeedddZUe2ddd ZVe2ddd ZWdd ZXdd ZYe2ddd ZZe2dddĄ Z[ddƄ Z\  Z]S )CmfPluginYouTrack)youtrackyoutrack_fieldsZtestget_all_projectsr    #_CmfPluginYouTrack__youtrack_fieldsc                    sB   t  j|| i | _i | _i | _g | _g | _d| _d| _d | _	d S )Nr   F)
super__init__Zepicsissue_relationssubtasksZboardsselected_projectsr    update_fieldsr2   )selfr#   r$   	__class__r(   r)   r4   :   s    zCmfPluginYouTrack.__init__c                 C   sJ   |  ddddddg t| jjj| jj | jjj| jj | jj	jdS )u7    Клиент для работы с YouTrack REST API pluginzplugin.ext_urlzplugin.ext_tokenzplugin.ext_loginzplugin.ext_passwordzplugin.verify_sslurltokenusernamepassword
verify_ssl)
load_fieldsr   r<   ext_urlvalue	ext_tokendecrypt	ext_loginext_passwordrB   )r9   r(   r(   r)   ytF   s    

zCmfPluginYouTrack.yt)returnc              	   C   s   | j r| j S | j d}| rN| jsNt|d}t|| _ W 5 Q R X n:| j	
 | _ t|d}tj| j |dd W 5 Q R X d| _| j S )Nfields.jsonr+w+FZensure_ascii)r2   r   get_download_pathjoinpathexistsr8   openjsonloadrJ   Z
get_fieldsdump)r9   	file_pathfr(   r(   r)   r0   Y   s    z!CmfPluginYouTrack.youtrack_fieldsNEtc/UTC%Y-%m-%dT%H:%M)datetimetzformatrK   c                 C   sN   | pt jt jj|} t|}tjt j| |	|}||}|S )N)
dtr[   nowtimezoneutcstrftimepytzZlocalizestrptimeZ
astimezone)r[   r\   r]   Zdt_tzZdt_strr(   r(   r)   _datetime_in_user_tzj   s
    

z&CmfPluginYouTrack._datetime_in_user_tz)	timestamprK   c                 C   s   t j| d tj}| S )N  )r^   r[   Zfromtimestamprc   ra   Z	isoformat)rf   Zdt_objr(   r(   r)   	_ts_to_dtv   s    zCmfPluginYouTrack._ts_to_dtc                 C   s,   |sdS |  |}|dr(|r(|d S |S )u`   
        Метод получает значение параметра объекта
        Ncf_rE   )get
startswith)r"   attrrE   r(   r(   r)   
_get_value|   s    
zCmfPluginYouTrack._get_value)
field_namerK   c                 C   s&   |sd S | j |gd}|r"|d S d S )N)Zfields_namer   )import_shop_fields)modelrn   resr(   r(   r)   _get_field_name   s    z!CmfPluginYouTrack._get_field_namec                 C   sJ   ddddddddddddddddddddddddddddd}| | dS )	Nr   r         )   ОтложеноLowest   Самый низкий   НизшийVery lowLow   Низкий   НезначительнаяMinor   СреднийMediumMid   ОбычнаяNormalHigh   Высокий   СерьезнаяMajor	Very high   Высший   НаивысшийHighest   КритическаяCritical   Критический   НеотложнаяShow-stopper	Emergency)rj   )prioritymappingr(   r(   r)   _get_priority   s<    zCmfPluginYouTrack._get_priority)issuec                 c   sB   t | d d}t|D ] }|dkr*q|||dV  qd S )N
issue_pathattachmentsall_attachments.zip)	file_namerW   )r   rQ   oslistdir)r   attachments_pathr   r(   r(   r)   _get_issue_attachments   s
    z(CmfPluginYouTrack._get_issue_attachmentsc              	   c   s>   | d  d}t |d}|D ]}t|V  qW 5 Q R X d S )Nr   z/comments.jsonrM   rS   rT   loads)r   Zcomments_file_pathrX   rowr(   r(   r)   _get_issue_comments   s    z%CmfPluginYouTrack._get_issue_commentsc              	   c   s>   | d  d}t |d}|D ]}t|V  qW 5 Q R X d S )Nr   z/worklog.jsonrM   r   )r   Zworklog_file_pathrX   r   r(   r(   r)   _get_issue_worklogs   s    z%CmfPluginYouTrack._get_issue_worklogsc              	   c   s>   | d  d}t |d}|D ]}t|V  qW 5 Q R X d S )Nr   z/activities.jsonrM   r   )r   Zactivities_file_pathrX   r   r(   r(   r)   _get_issue_activities   s    z'CmfPluginYouTrack._get_issue_activitiesc              
   C   s   ddl m} | dddd} || ddd	}z^d
dd| gddd|  dgddd| dgg}tjj|d}|stj| d}|jdd |W S  tk
r } zt	d|  d|  W 5 d }~X Y nX d S )Nr   )translitr   _# ruT)Zlanguage_codereversedORr'   ILIKEaliasz%""%filterr+   Zsave_importu+   Не удалось создать тег '': )
Ztransliterater   replacemodelsZCmfTagrj   saver   loggingwarning)tagr   r   _filtertag_objer(   r(   r)   _create_tag   s     zCmfPluginYouTrack._create_tagc               
   C   s   dt j t jjddt j t jjddt j t jjddt j t jjddt j t jjddt j t jjddt j	 t j	jdg} | S )	uW    Собственный магазин при выборе импорта из Tracker u   Поля контактов)captionfieldsiconu   Поля организацийu   Поля задачu   Поля заметокu   Поля проектовu"   Поля списков задачu   Поля групп)
r   	CmfPersonro   r   Z
CmfCompanyCmfTask
CmfCommentZ
CmfProduct
CmfProjectCmfPersonGroup)rq   r(   r(   r)   calc_models_settings   s<    %z&CmfPluginYouTrack.calc_models_settingsc                 C   sL   t jj| jjdddgd}|jrHt|j|j d |_|j	dd t
  d S )Nimported_object_countjson_object_countprogressr   r   d   TZ	only_data)r   	CmfImportrj   r   r   r   intr   r   r   commit_with_event)r9   r   r(   r(   r)   _calc_progress  s    z CmfPluginYouTrack._calc_progressc                 C   sV   ddddddddd	d
d
}||kr*|| S | j |i ddpT| j |i ddS )Nu   ИмяZEmailu(   Не работает/Уволенныйu   Ключu   Наименованиеu   Описаниеu   Созданоu   Обновленоu   Завершеноu
   Автор)
fullNameemailbannedr   summarywikifiedDescriptioncreatedupdatedresolvedauthorlocalizedNamer   r'   )r0   rj   )r9   rl   r   r(   r(   r)   _get_setting_title_from_attr  s     z.CmfPluginYouTrack._get_setting_title_from_attrc              	   C   s   ddddddddddd	dd
dddddg}ddddddddd}| j  D ]2\}}|||d |d d fd||d qT|S )uO    Сопоставление настроек для модели models.CmfTaskcoder   model_fieldrl   r'   r   textr   cmf_created_atr   cmf_modified_atr   status_closed_atr   r   
logic_typestatusresponsiblefix_versionsaffected_versions
componentsdeadline))Priorityenum)r	   r   )Statestate)ZAssigneeuser)zFix versionsversion)zAffected versionsr   )	Subsystem
ownedField)zDue Datedate	fieldType	valueTypeN)r   rl   	ext_field)r0   itemsappendrj   )r9   Zissue_settingsZdefault_fields_mappingcf_idcfr(   r(   r)   _get_issue_import_settings0  s4    

	z,CmfPluginYouTrack._get_issue_import_settingsc                  C   s    dddddddddg} | S )uQ    Сопоставление настроек для модели models.CmfPersonr'   r   r   r   does_not_workr   r(   )Zuser_settingsr(   r(   r)   _get_user_import_settingsR  s
    z+CmfPluginYouTrack._get_user_import_settingsc                  C   s    dddddddddg} | S )uR    Сопоставление настроек для модели models.CmfCommentr   r   r   
cmf_authorr   r   textPreviewr(   )Zcomment_settingsr(   r(   r)   _get_comment_import_settings\  s
    z.CmfPluginYouTrack._get_comment_import_settingsc                    s  |dkr|  S |dkr\|d kr$|S d| j d|d  d}tjjddd| dgd}|S |d	kr|d krp|S | j d|d
 d  d|d  }tjjdd|gdgd}	|	S |dkr|d kr|S | |d S |dkrVg }
|d kr|
S |D ]b}| j d|d  }tjj|d}|sF|  jd7  _| j	j
d|d  ddd q|
| q|
S |dkrg }|d krr|S t|tr|g}|D ]d}| j d|d  }tjj|d}|s|  jd7  _| j	j
d|d  ddd n
|| q|S |dkrt|trt|S n|dkrv|d kr.dS |d dd}tjjd|d gd!}|rh||jkrh|S | |d S |d"r|r|d kr|S |d# d$ }|d# d% }|d&kr|stj|d dd'd(}|S |d&kr|rtjd)|}d*d+ |D   fd,d+|D }|S |d-kr
|s
zvz| |d }W n2 tk
rn } zt| d.W 5 d }~X Y nX | j|d/d/d0\}}|std1| d2|W S  tk
r } zF|  jd7  _| j	j
d3|d  d4| d5| d6| d7d8d W Y d S d }~X Y nX n|d-kr|rg }|D ]}z~z| |d }W n2 tk
rl } zt| d.W 5 d }~X Y nX | j|d/d/d0\}}|std1| d2|| W n` tk
r } z@|  jd7  _| j	j
d3|d  d4| d5| d6| d7d8d W 5 d }~X Y nX q"|S |d9krzg }t|trP|D ] }| |}|r,|| q,n&t|trv| |}|rv|| |S |d:krt|trt|S |S );Nr   r   ::r   ext_idLIKE%r   r   project=status_typer   r   r   )r   r   
::version:r  r   u!   Не найдена версия r'   zERR-0050CmfListobj_typer   u%   Не найден компонент CmfComponent)r   r   r   r   r   r   -r   choicesr'   parentr   ri   r   r   isMultiValuer       seplengthr   c                 S   s   g | ]}|d  qS r+   r(   .0vr(   r(   r)   
<listcomp>  s     z6CmfPluginYouTrack._normalize_value.<locals>.<listcomp>c                    s   g | ]}|d   kr|qS r+   r(   )r  choicevaluesr(   r)   r    s      r   uL   . Возможно пользователь был удален в YouTrack.F)createupdateu   Пользователь u%    не найден в системе.u0   Не удалось присвоить полю r   u   ) значение z. ERR-0038r   group)r   date and time) uppersource_hashr   CmfLogicTyperj   	CmfStatus_get_personr
  r    r   r!   r   
isinstancedictr  r   r.   rh   r   CmfCustFieldConfFieldr  r   rk   cmfutiltranslit_stripZCmfCustomFieldChoiceZlist_choice_get_user_data_from_dumpr   _process_personlist
_get_group)r9   r"   rE   rn   r   cust_field_conflogic_type_ext_idr   status_ext_idr   Zversionsr   version_ext_idZversion_objr   	componentcomponent_ext_idZcomponent_objZvalue_idZfield_configcustom_field_typeis_multi_value	value_keyr  rq   Z	user_infoexcpersonr   r  r!  r(   r  r)   _normalize_valuef  s4   "














z"CmfPluginYouTrack._normalize_value)settingsrK   c              	   C   s\   i }|D ]N}|d sq|  ||d }| |||d d |d|}|||d d < q|S )uC    Преобразование настроек для модели r   rl   rn   r   )rm   r<  rj   )r9   r"   r=  r1  Znormalized_objsettingrE   r(   r(   r)   _normalize_obj  s    
z CmfPluginYouTrack._normalize_objc           
         sd  t ttj ttj f }g  |_jdg ttg t	t f |td fdd}d }d }j
 d}| r D ]$}|d D ]} qq|r~ qq~dD ]} qq|sdd	 jjjd
dD }|r|d }|std|sdd	 jjjd
dD }	|	r|	d }|s*tdd_||jtj ||jtj  dg d  S )Nplugin.plugin.*)r"   settings_funcrp   rK   c                    sj   | }|D ]H} | |d |d< ||d |d< |d |d< |j|d< q
 |j|d d S )Nrl   rE   r   titler   )r'   r   )rm   rr   r   r   r   verbose_name)r"   rA  rp   Zobj_settingsr>  resultr9   r(   r)   _get_settings3  s    z>CmfPluginYouTrack.tmplt_import_settings.<locals>._get_settingsprojectsr   usersc                 S   s   g | ]}|qS r(   r(   r  r"   r(   r(   r)   r  J  s     z;CmfPluginYouTrack.tmplt_import_settings.<locals>.<listcomp>r   )max_resultsr   uT   Не найдено ни одной задачи, импорт невозможен!c                 S   s   g | ]}|qS r(   r(   rI  r(   r(   r)   r  Q  s     ub   Не найдено ни одного пользователя, импорт невозможен!TselectedObjects)r'   rE   )r
   r	   r   r   r   r   rC   r   r   r   rP   rQ   rR   _get_projectsget_project_tasks_simple_getrJ   issuesget_allr   rH  r8   r   r   r   )
r9   r   Z	TypeModelrF  taskr   Zdump_dirr  tasksrH  r(   rD  r)   tmplt_import_settings,  sB    &	z'CmfPluginYouTrack.tmplt_import_settings)cmf_import_idc             
   O   sN   g }zdd | j jD }W n. tk
rH } zt|  W 5 d }~X Y nX |S )Nc                 S   s   g | ]}|qS r(   r(   rI  r(   r(   r)   r  i  s     z6CmfPluginYouTrack.get_all_projects.<locals>.<listcomp>)rJ   rG  r   gdebug)r9   rT  r#   r$   rq   r   r(   r(   r)   r1   e  s    
z"CmfPluginYouTrack.get_all_projectsc                 C   s<   d}| j  d|d}| r8tdd t|D }|S )Nr   rG  rR  c                 s   s   | ]}| d  V  qdS ).dirtyz.metaN)endswith)r  entryr(   r(   r)   	<genexpr>u  s     z9CmfPluginYouTrack._count_project_tasks.<locals>.<genexpr>)r   rP   rQ   rR   sumr   r   )r9   
project_idcount	tasks_dirr(   r(   r)   _count_project_tasksp  s
    z&CmfPluginYouTrack._count_project_tasksr+   c              	   c   sN   | j  | d}| rJt|d}|D ]}t|V  q.W 5 Q R X d S )N.jsonrM   )r   rP   rQ   rR   rS   rT   r   )r9   r'   rW   rX   r   r(   r(   r)   rN  x  s    zCmfPluginYouTrack._simple_get)r]  c              	   C   s<   | j  d|}t|dd}t|}W 5 Q R X |S )NrG  rL   rM   )r   rP   rQ   rS   rT   rU   )r9   r]  project_dirrX   project_fieldsr(   r(   r)   _get_project_fields  s    z%CmfPluginYouTrack._get_project_fields)r'   r]  c                    sH   t  tr  | |}tt fdd|d }|sDtd  d|S )Nc                    s   | d d  kS )Nfieldr'   r(   )rX   r+   r(   r)   <lambda>      z6CmfPluginYouTrack._get_project_field.<locals>.<lambda>u0   В проекте не найдено поле '')r(  strrd  nextr   
ValueError)r9   r'   r]  rc  project_fieldr(   r+   r)   _get_project_field  s    

z$CmfPluginYouTrack._get_project_fieldc                 C   s   t jj}|| jj d| }|d k	r2t|S | dD ]^}|d|krV|  S |dd	 |	 krv|  S |d r<|d 	 |	 kr<|  S q<t
d| d S )N:user:rH  r   loginr   r   uH   В дампе не найдены данные пользователя )APPREDIS_DBredisrj   r   r   pickler   rN  lowerr   )r9   user_idredis_db	user_datar(   r(   r)   r-    s    

z*CmfPluginYouTrack._get_user_data_from_dump)	dump_pathc                 C   s   z|  |W S  tk
r   z|d}| rt|d@}|D ]4}t|}||d kr@|  W  5 Q R  W  Y S q@W 5 Q R X | jj	|}|rt|d}|
tj|ddd  W 5 Q R X |W  Y S W n    | jjd|  Y nX Y nX d S )	N
users.jsonrr   a+FrO   
uS   Не удалось получить данные пользователя по ID )r-  r   rQ   rR   rS   rT   r   rJ   rH  rj   writedumpsr   loggerr   )r9   ru  rx  Z
users_pathrX   r   r"   rw  r(   r(   r)   _get_user_data  s(    

&"z CmfPluginYouTrack._get_user_datac                 C   s   |dkrd S z|  |}W n,   | jjd| dddd tj Y S X | j|dd|d\}}|s| jjjd	rt	j
j| jjd	 d
}| jjd| d|  n.tj}|  jd7  _| jjd| dddd |S )Nunknownu5   Не найден пользователь user_id = u/    в дампе, указан системныйzERR-0045ZCmfUserr  Fr"   Zdefault_user_idr   u@   , указан пользователь по умолчанию r   u!   , указан системный)r-  r   r!   rU  Zsystem_userr.  json_settingsrE   rj   r   r   r  r   r    )r9   ru  r"   r   r;  r   r(   r(   r)   r'    s4    

zCmfPluginYouTrack._get_personc                 C   s\   d| j  d|d  d}tjjddd| dgdgd}|sXtjjdd|d gdgd}|S )	Nr   r   r  r  r  r'   r  r   )r$  r   r   rj   r9   Z
group_dataZgroup_ext_idr!  r(   r(   r)   r0    s    zCmfPluginYouTrack._get_groupc              
   c   sf   | j  d}| rbt|D ]>}|dr2q"t| d| dd}t	|V  W 5 Q R X q"d S )NrG  rW  /
/info.jsonrM   )
r   rP   rQ   rR   r   r   rY  rS   rT   rU   )r9   rb  r]  rX   r(   r(   r)   rL    s    
zCmfPluginYouTrack._get_projectsr   rg   c              
   c   s   | j  d|d}| s:| j jd| d|  d S tt|D ]\\}}||k rZqH|	drfqH||| krv qt
| d| dd}t|V  W 5 Q R X qHd S )	NrG  rR  u   Каталог u    отсутствует. Возможно он был удален или еще не создан. Необходимо повторно запустить импорт проекта rW  r  r  rM   )r   rP   rQ   rR   r  r   	enumerater   r   rY  rS   rT   rU   )r9   r]  startlimitr_  iZtask_idrX   r(   r(   r)   rM    s    
z#CmfPluginYouTrack.get_project_tasksu   Дампc              	   C   s   | j  | d}| j  | d}| r>t| t|d:}| D ],}| j  jd7  _|t	j
|ddd  qPW 5 Q R X t|| | j jdd	 t  d S )
Nz.json.dirtyra  r{  r   FrO   r|  Tr   )r   rP   rQ   rR   r   removerS   r   r}  rT   r~  shutilmover   r   )r9   Zapi_funcr'   Zfile_path_tmprW   rX   r   r(   r(   r)   r   
  s    

$zCmfPluginYouTrack._simple_dumpc              	   C   sh   | j d | jj|}t|d  d}| r>t| t	|d}t
j||dd W 5 Q R X |S )Nu"   Дамп полей проектаrb  z/fields.jsonrN   FrO   )r   r   rJ   rG  Zcustom_fieldsr   rR   r   r  rS   rT   rV   )r9   project_datarc  Zfields_list_filenamerX   r(   r(   r)   _dump_fields  s    
zCmfPluginYouTrack._dump_fieldsc              
   C   s   | d}| r`t|d>}|D ]2}t|}|d |d kr"|  W  5 Q R  S q"W 5 Q R X t|d}|tj|ddd  W 5 Q R X |S )Ngroups.jsonrz  r'   r{  FrO   r|  )rQ   rR   rS   rT   r   r}  r~  )r9   r!  rx  Zgroups_pathrX   r   r"   r(   r(   r)   _dump_groups(  s    

 "zCmfPluginYouTrack._dump_groups)last_dump_datenew_dump_datec	           *      C   sP  t dd: | jjd| d||   |}	d}
z|	jj|d ||||dD ]}zzH| j rW W | W W 5 Q R  dS |d	 }|d
 }| d| d}| j	 d| }| jjd|  |
|}|
|d }| rt|| |jdd ||d< |d r&| |d d	 | |d rD| |d d	 | |d d D ]}| |d d	 | qP|d D ]}| |d	 | qt|d d D ]}| |d	 | q|
d}|
d}|jdd |d rz| jjd| dt|d   tj| jjjd| d}d }|
|}tjj||| j	d!}|sVtj||| j	| jd"}||_||_d|_|  |j  | jjd#|  |
d$}| rt| t |d%b}|	j!|D ]N}| |d& d	 | |"t#j$|dd'd(  | j j%d7  _%| j&d) qW 5 Q R X d*d+ |	j'|D |d,< d-d+ |	j(|D |d.< d/d+ |	j)|D |d0< |d1 D ]}|d2 d3 d	 }|d2 d3 d4 d5 } |d6 }!d7|*d8d9 }"|||"< | dkr|!rt+|!t,s|!g}!|!D ]}#| |#d	 | qn:| d:krt|!rtt+|!t,s |!g}!|!D ]}$| -|$| q$qt|
d;}%|% rZt|% t |%d<F}|	j.|D ]2}&| |&d& d	 | |"t#j$|&dd'd(  qrW 5 Q R X |
d=}'|' rt|' t |'d<Z}|	j/|D ]F}(| |(d& d	 | | |(d> d	 | |"t#j$|(dd'd(  qW 5 Q R X t|| |
d?})t0|*dd@|d< t |)d<}t#j1||dd' W 5 Q R X | j j%d7  _%| j&dA W n.   |
d7 }
| jj2dB| dCdDdEdF Y nX | jjdG|  W 5 | jj  X qRW n.   |
d7 }
| jj3dH|dI  dJ Y nX |4|
 |	5  W 5 Q R X d S )KNFZinit_views_and_dsu   Дамп задач с u    до r   	shortName)
start_dateend_dateskiprJ  r   r   r   r   r   r      Задача rX  Texist_okr   reporterupdaterwatchersissueWatchersr   ZmentionedUsersZvotersZoriginalr   u1   Обработка вложений задачи : z/api/issues/z/attachments/allr   )href
obj_ext_idr$  )r  r  r$  r   u/   Дамп комментариев задачи zcomments.jsonr{  r   rO   r|  commentc                 S   s   g | ]}|qS r(   r(   )r  lr(   r(   r)   r    s     z5CmfPluginYouTrack._dump_task_part.<locals>.<listcomp>linksc                 S   s   g | ]}|qS r(   r(   )r  sr(   r(   r)   r    s     sprintsc                 S   s   g | ]}|qS r(   r(   )r  tr(   r(   r)   r    s     tagsZcustomFieldsZprojectCustomFieldre  r   r   rE   ri   r  r   r!  zactivities.jsonrN   zworklog.jsoncreator	info.jsonr   rQ  u9   Не удалось создать дамп задачи zERR-0089r   rV   r  Z
error_typeu#   Создан дамп задачи uA   Не удалось получить задачи проекта r'   u    с сервера)6r   r   r  inforO  Zfor_projectdpcommit	is_cancelr$  rQ   rR   r  r  mkdirr  lenurllibparseurljoinrJ   _connectionr>   r   CmfImportDownloadrj   pathr'   
downloadedr   r   r  rS   Zcommentsr}  rT   r~  r   inc_statr  r  r  r   r(  r/  r  Z
activitiestime_trackingri  rV   r!   	exceptionputclose)*r9   r_  r  r/   tasks_that_are_doner  rJ  r  r  rJ   errorsr   Zissue_id	issue_keyZissue_key_idissue_ext_idZtask_dirZtask_dir_tmpwatcherZmentioned_userZvoterZattachments_dirZattachments_dir_tmpZattachments_urlr   Zattach_file_pathdownload_jobZcomments_file_namerX   r  r   field_id
field_typeZfield_valuer   Z
value_userZvalue_groupZactivities_file_nameactivityZworklog_file_nameworklogZ	info_pathr(   r(   r)   _dump_task_part6  s   















&


&


z!CmfPluginYouTrack._dump_task_partr  issues_countr  r  c                 C   s  t jj}d}t|d d}|jdd t }t|| j	 }	d}
d}g }||kr|
|	 |	 }||krn|}t
| jd|
 |||
|	 ||
|	  |||t| jjj| jj | jjj| jj | jjjddd	}|| |  | jjd
|  |
d7 }
qL|	d }| jjd|	 d t }|D ]8}|j|d | r,| jjddddd tdq,t | }| jjd|dd |  s||! 7 }q| jjd|  | j"|d | #|d dD ]}| j$ r|  S t|d d}| j% d}| j% d}|& rt'(|| t)|d}t)|dj}t)|d T}|D ]H}||kr^|*| t+,|}|-| jj. d!|d  t/0| q^W 5 Q R X W 5 Q R X W 5 Q R X |1  t'2|| t|d d"}| j% d"}| j% d#}|& rt)|d$3  t'(|| t)|dR}t)|d<}t)|d &}|D ]}||krX|*| qXW 5 Q R X W 5 Q R X W 5 Q R X |1  t'2|| q|S )%Nr   rb  rR  Tr  Zdump_tasks_r=   )r_  r  r  rJ  r  r  r  r/   targetr'   r$   u   Форк _dump_task_part proc=r   <   u%   Таймаут дампа задач u    минут)timeoutu/   Возможно завис дамп задачzERR-0055r   rV   r  u"   Ошибка дампа задачuQ   Параллельное скачивание задач выполнено за .3f    сек.u.   Ошибок скачивания задач: r   r  r   ry  zusers.json.newrz  r{  rn  r  zgroups.json.newa)4rp  rq  rr  r   rQ   r  r   mathceildownload_threading_max_forksr   r  r   r<   rD   rE   rF   rG   rH   rI   rB   r   r  r   r  r  time	monotonicjoinis_aliver!   TimeoutErroremptyrj   rM  r`  r  rP   rR   r  copyrS   r}  rT   r   setr   rs  r~  unlinkr  r  )r9   r  r  r  r  rv  r  r_  r  stepr  rJ  processprocr  t1t2r   Zissue_users_pathZall_users_pathZall_users_path_newf1f2Zf3linerw  Zissue_groups_pathZall_groups_pathZall_groups_path_newr(   r(   r)   _dump_tasks  s    











&

,zCmfPluginYouTrack._dump_tasksc                 C   s&  | j d d d }|d s"td| j d}|jdd d	d
 |d D | _t| j}td| }| jD ]}|d }|d }|d }zP| j	 rW  d S | j j
d7  _
| jjd| d| d| d ||}	|| d}
|	d}| jj }|r|d d d d nd}d }| rlt|d}t|}|d}W 5 Q R X |rl| ||}tjtjjd}| ||}|	 rt|	|
 ntj|
dd t ! }| jj"|d }t#|
|d< |d r| $|d d | j  |d  r"| $|d  d | j  | j%|d!}|D ]T}|d" d# d$ }|d%kr2|d& D ]*}|d' rX| $|d' d | j  qXq2| jj"&||d(< d)tj'd*< | j j(|7  _(| jj)dd+ | jj*+  d,tj'd*< t|d |	 t#|	|d< |d  d-}t|d.}tj,||d/d0 W 5 Q R X t ! | }| jjd1| d| d2|d3d4 t-|d  d5}|r| s| jj.d6| d7|d  d8| d9| d:	 d }n6| /|d s| jj.d;| d7| d<| d: d }t ! }| jj0j1|||d=}d>| }|s|rT|d?7 }|r0|d@| 7 }|rD|dA| 7 }|dB| d7 }| j2| |  j3| j4||||dC7  _3t ! | }| jjdD| dE|d3d4 | j3s||d< t|d.}tj,||d/d0 W 5 Q R X W qn   |  j3d7  _3| jj5dF| dGdHdIdJ Y qnX qn| j2dK d S )LNrK  rE   r   	isCheckedu9   Не выбраны проекты для импорта!rG  Tr  c                 S   s$   g | ]}|d  r|d r|d  qS )r"   r  r(   )r  valr(   r(   r)   r  j  s    z4CmfPluginYouTrack._dump_projects.<locals>.<listcomp>childrenP   r   r  r'   r   u   Дамп проекта r  z (ID r   rX  r  ZprofilesZgeneralr`   rY   rz  Z	dump_daterZ   rb  Z	createdByleader)r  re  r   r   r   r  ownertimeTrackingSettingsr   NO_CACHEr   1r  rN   FrO   u%   Дамп данных проекта u    выполнен за r  r  z/tasksu$   В каталоге проекта '' (u5   ), отсутствует каталог задач (u@   ). Дата последнего успешного дампа (u   ) будет сброшена.u/   В каталоге задач проекта 'ud   ) отсутствуют задачи. Дата последнего успешного дампа ()r  r  u*   Дампим задачи проекта: u    (в периодu    с u    по u4    включительно, часовой пояс: r  u$   Дамп задач проекта 'u   ' выполнен за u2   Не удалось получить проект zERR-0058r   rV   r  u0   Закончили дампить проекты)6r=  r   r   rP   rQ   r  r7   r  r   r  r   r  r  rJ   rH  merR   rS   rT   rU   rj   re   r^   r[   r_   r`   ra   rb   r  r  r   makedirsr  process_timerG  ri  r  r  r  environr   r   r  r  rV   r   r   r`  rO  r^  r   r    r  r!   )r9   rootZprojects_dirZcntr  r  r]  Zproject_keyZproject_namerb  Zproject_tmp_dirZ	data_filerw  Zuser_tzr  rX   Zcurrent_dumpZlast_dump_date_utcZnew_dump_date_utcr  r  r  rc  rl  r  rE   r  r_  r  info_msgr(   r(   r)   _dump_projectsb  s    










"


 


z CmfPluginYouTrack._dump_projectsc                 C   s   | j  }t|\}}}|| d }| j jd| d | j jd | j jjddr~| j jd | 	| j
jjd n| j jd	tjd
 | j jd | 	| j
jjd d| j _| j   t  | j jd |   dS )u^   
        Загружает все данные из API, кроме вложений
        r   u   Свободно места: r  u5   Скачивание данных через API ... 
load_usersTu#   Дамп пользователейrH  9   Отключен импорт пользователей!levelu    Дамп типов ссылок	linktypes   u,   Дамп выбранных проектовN)r   rP   r  
disk_usager  r  r  rE   rj   r   rJ   rH  rP  r   r   WARNINGr  r   r   r   r  )r9   Zdownload_pathtotalusedfreeZfree_percentr(   r(   r)   download_data  s&    

zCmfPluginYouTrack.download_datac                 C   s  t dd d}| }|dkr"q| j r.qtj|d }| jjd| d z^| j	
|d |d  tjj|d	 d
}d|_|  | jjd|d   | jd W q tk
r } z$|d7 }| jjd| ddd W 5 d }~X Y qX q|| W 5 Q R X d S )NFr  r   DONEr  u   Попытка скачать  ... r  r   r  Tu   Файл сохранен в 
attachmentr   u,   Не удалось скачать файл zERR-0091r  r  )r   rj   r   r  r  r  unquoter  r  rJ   Zdownloadr   r  r  r   r  r   r!   r  )r9   download_queueerror_queuer  r  r  Zdownload_job_objr   r(   r(   r)   _download_file_worker0  s6    
z'CmfPluginYouTrack._download_file_workerc                 C   s  | j jd t }t }d}| j dg dd| jgdddgg}tjj|d}|sf| j jd	 |S | j jd
|  g }t	| j
D ]H}t| jd| ||dd}|| |  | j jd| d qtjj|ddgdD ],}	| j  r q||	j|	j|	jd q|D ]}
|d q| sH|D ]}|  q8| j  rX|S | j jd | s| j  r|S || 7 }qf|S )Nu)   Cкачивание вложений ... r   zplugin.plugin.source_hashr$  ==r  Fr   u   Вложений нетu   Файлов: Z_download_file_worker_)r  r  r  u/   Запуск задачи скачивания r  r  r  r  )r   r  r  r  u8   Скачивание вложений завершено)r   r  r  r   rC   r$  r   r  r^  ranger  r   r  r   r  Zslistr  r  r   r  r  r  r  rj   )r9   r  r  rq   r   Zcount_download_filesZprocsr  r  r  r   r(   r(   r)   download_filesS  sb    






z CmfPluginYouTrack.download_filesTc              	   C   s  |rd| dnd}|  || jtjj d }d| j d|d  d}|d}|s| jj	d|d	  d
 t
jjjttj d }	t|d	 d |	  dtj }||d< |d ddd}
t|
dkrtt|
d t|
d n
t|
d }ttjjjtjjj}||krZt|
dkr.|
d nd|d< t|
dkrL|
d n|
d |d< n2|  jd7  _| jjd|d  d| dddd ddg}tjjd	d|d g|d}|stjjddd| dg|d}|stjjdd|d g|d}t|dkr>| jjd |d  d!t| d| d"dd |  jd7  _g }|s| jj	d#|d  d|  dd$|d g}tjj||d}|st|
dkrdd$|
d g}nHt|
dkrd%dd$|
d gdd$|
d ggdd$|
d gdd$|
d ggg}tjj||d}t|dkrN|  jd7  _| jjd&|d  d'|d  d(t| d| d"dd |r^|d }n*| jd)|d  d'|d  d*| tj d+}|s,|r$d,}d}|d }tjjd	d| g|dr| jd-| d.tj  |d d\}}| d/| d| }|d7 }qtj||| jd,d0}nd |fS |r| jj!d1|  |j"rj|D ]}t#||||  qR|j$r||j$kr|j$ | |_$n||_$tj%& }tj%' }|j()| |j()| d,|_*|j+r|j,d,d2 ||fS )3N(r   r   r   r   r   r   u   У пользователя ro  u    не указан emailr   @r'   .r   r   
first_name	last_nameu?   Часть полного имени пользователя 'u   ' длиннее uM    символов. Имя и фамилия не были заполнены.zERR-0110r   r  r   rg_member_ofr   r  r  r  r  u+   Пользователей с почтой z > zERR-0037uH   Не удалось найти пользователя с почтой r  r   u+   Пользователей с именем r   z) > uM   Не нашли пользователя среди существующих z) FTuQ   Обнаружена учетная запись с дублирующим email u   , добавляем цифру+)r  ro  r   import_originalu0   Импортируем пользователя r   )-r?  r=  r   r   rC  r$  rj   r   r  r   Zcmfr   ZCmfEmail
max_lengthr  configZ
ORG_DOMAINr+  r,  r   splitmaxminr  r  r    r!   r/  r   r   INFOrt  r  r  r  setattrr  r   youtrack_group
user_groupr  r   Z
user_local
is_changedr   )r9   r   r  r  r"   Zobj_msgZ	user_dictZperson_ext_idr   Zmax_lenr'   Zcurrent_length_nameZmax_length_namer   r;  Zpersonsr   
is_creatednro  Zprefix_emaildomainkeyr   r!  r(   r(   r)   r.    s    
"2
$&



z!CmfPluginYouTrack._process_personu   Обработка группc              	   C   s4  |  dD ]"}z| j r$W  d S d| j d|d  d}tjjddd| dgdgd}|s|tjjdd	|d gdgd}|stj|d || j|d
d}|jr|d |_|j	s||_	n||j	kr|j	 | |_	|j
d
d |j  | j jd7  _W q
   |  jd7  _| jjd| ddd Y q
X q
d S )Ngroupsr   r'   r  r  r  r   r  r   T)r'   r  r   import_raw_jsonr  r   r   u4   Не удалось загрузить группу r   r   r  )rN  r   r  r$  r   r   rj   r  r'   r  r   r  r  r   r    r!   r  r(   r(   r)   _process_groups!  sL    



z!CmfPluginYouTrack._process_groupsu-   Обработка пользователейc              	   C   s  | j jjdds(| j jdtjd d S t }| dD ]}zj|d rJW q8| j 	 r\W  d S | 
|\}}| j  jd7  _|jr|js|jds|r||jj W q8   |  jd7  _| j jd	| d
dd Y q8X q8|r| j jjddrttjjt|gd d S )Nr  Tr  r  rH  Zguestr   z.evateam.ruu@   Не удалось загрузить пользователя r   r   r  Zsend_invites)r#   )r   r  rE   rj   r   r   r  r  rN  r  r.  r   r   r   rY  addr    r!   Zschedule_deferred_jobr   r   Zregister_personsr/  )r9   Znew_user_emailsr   r;  r#  r(   r(   r)   _process_usersM  sB    

z CmfPluginYouTrack._process_users)re  c                 C   sF  |d d  dd}d| d| j  }|d d|g g g g dd	d	d
}|d d d }|d d d }|dkr|d|d< n|dkrd|d< n|dkrd|d< n|dkrd|d< n|dkr|rdnd|d< dd |d d D |d< n\|dkrd|d< nJ|dkrd|d< n6|dkr*|r d nd|d< n|d!kr>d"|d< nd }|S )#Nr   r   r  r   ri   rB  T)r  workflowr  Zlogic_prefixF)r   Zcustom
class_nameZvisible_filterrequiredZrequiredChangedr   r   r  r   field_custom_typestringri  Zintegerr   floatr   choice_multi
choice_strc                 S   s   i | ]}|d  |d qS )r   r'   r(   r  r(   r(   r)   
<dictcomp>  s      z0CmfPluginYouTrack._map_field.<locals>.<dictcomp>r  r  r   r"  r[   r   rH  r!  r'  )r   r$  rt  )r9   re  r  r-  rq   r7  r8  r(   r(   r)   
_map_fieldu  sH    









zCmfPluginYouTrack._map_fieldc                    s  d | _ | jD ]D}| jtjj d D ],}d|kr0q"|d d |kr"| j| |d< q"q| jjd | j	}tj
j|dgd}|stj
d|d| jd	}d
|_|  tjjdd|d}dd tj D }g }g }| jtjj d D ]}|ds| jjd|d  d q|d r2| jjd|d  d q| |}	|	s|  jd7  _| jjd|d d  d|d d  d|d d d  d|d  ddd q|d d d d!}
d"|
 d!| j	  }||d< |	d# d$kr|| | j	 d%|d d  }tjj|d&d'd(d)d*gdd+}|sFtj|d |d |	d# d|| jdd,}|jrp| jjd|j d|j d- q||kr|| d& |jjkr|  jd7  _| jjd|d d  d|d d  d.|j d/|| d&  d0|d  
d1dd q|| |d< | jjd2| d|d  d3 n*|| | jjd4| d|d  d3 |jr4|d |_|d |_|	d# d5kr|jjp|i }i  t }|d d6 D ]:}t j!|d d d7d8}|d  |< |d9 r|"| q fd:d;|D }|#| |#  ||_t$||_%|j&rd|_'|| |jdd< |j()  |d d= rtj*j||||d>}|stj*||||d>jdd< q|j()  |+  |rtj,t-j./ 0d?d
d@dA tj1dBd
i dCd tj D }|D ]}||d  |d< q|D ]~}tjj2|d dD  }t3t|j4 }|d d6 D ]H}|j|d dE}|sJ||d dE}|d9d@|_5|j&r"|  q"q| jj6j}|dF D ].}|d tjjkr| jtjj d |d< q|| j_6dGt7j8dH< | j  | jj()  dIt7j8dH< d S )JNr   r   r   u0   Обработка кастомных полейr   r  r   uG   Экран задач проектов YouTrack по умолчаниюTr'   r  r  r   r   _customr!  r'   typer  c                 S   s   i | ]}|d  |qS rn   r(   r  rX   r(   r(   r)   r4    s      z<CmfPluginYouTrack._process_custom_fields.<locals>.<dictcomp>
   Поле 'rB  u   ' не кастомноеr   u   ' уже смапленоr   u-   Не удалось смапить поле 'r'   r  u   ). Тип поля 'r   r   u%   ' не поддерживается: zERR-0064	CmfUiFormr  r  r   ri   r/  r2  r   widgetr  r   disabled_choicescmf_deletedr  r   Zinclude_deleted)r   r'   r/  dirtyr  r   r  #   ) удалено в системе.u   ). widget поля 'u7   ' не совпадает с существующим 'r   zERR-0065uT   В таблице есть соответствующее поле с именем 'r   u+   Создание поля с именем 'r3  r  r  r  archivedc                    s   h | ]}| kr|qS r(   r(   )r  r&  default_choicesr(   r)   	<setcomp>/  s   z;CmfPluginYouTrack._process_custom_fields.<locals>.<setcomp>r   ZisAutoAttached
cust_fieldr'   r  ui_form_groupz%Y%m%d%H%M%SF)Zmeta_versionZ
model_nameforcecmf_model_namec                 S   s   i | ]}|d  |qS r;  r(   r<  r(   r(   r)   r4  Z  s      rn   r+   import_settingsr   r  r  )9r2   r0   r=  r   r   rC  r   r  r  r$  r>  rj   rM  r   CmfUiFormGroupro   r5  r    r!   r   rt  r   CmfCustFieldrA  r   r'   r   r?  rE   r  r  r  r+  r,  r*  r  r/  r@  r"  rC  r  r  CmfUiFormFieldinvalidate_cacheZcustom_fields_gen_metar^   r[   r_   rb   Zcustom_field_sync_update_modelsr   varsrp   
cmf_hiddenr  r   r  )r9   Zext_field_idre  ui_form_ext_idZui_view_formrK  shop_fieldsZ
new_fieldsZ
m2m_fieldsZui_fieldr  rn   cust_field_ext_idrJ  Zcurrent_choicesdefault_disabled_choicesrE   r9  r@  ui_form_fieldfield_classchoice_modelr  r=  r  r(   rF  r)   _process_custom_fields  sT   


:
	
>













z(CmfPluginYouTrack._process_custom_fieldsuB   Обработка упоминаний пользователей)r   rK   c                 C   s   |sd S t |d}|dd D ]}zV| |jd }|jd |jd< |j|jd< d|jd< |jj|jd	< |jj|jd
< W q  tk
r } z0|  j	d7  _	| j
jd| d| ddd W 5 d }~X Y q X q ddd |jjD S )Nlxmlc                 S   s
   |  dS )Ndata-user-idhas_attrr   r(   r(   r)   rf  {  rg  z5CmfPluginYouTrack._process_mentions.<locals>.<lambda>r^  r  	href_origTcmf_convertedzdata-linked-resource-idzdata-usernamer   uZ   Не удалось преобразовать ссылку на пользователя r  zERR-0098r   r  r   c                 S   s   g | ]}t |qS r(   ri  r  cr(   r(   r)   r    s     z7CmfPluginYouTrack._process_mentions.<locals>.<listcomp>)r   find_allr'  attrsr  r   rE   ro  r   r    r   r!   r  bodyr  )r9   	issue_objr   Zdoc_soupr   r;  r   r(   r(   r)   _process_mentionsu  s&    

z#CmfPluginYouTrack._process_mentionsu8   Обработка комментариев задачиc           	      C   sb  d|d  d|d  d|d  d}d}d}|  |D ]}| j d	|d  }tjj|d
}|r|js| jjd| d|d q6|stj|d|d}| |d d |_	|j	|_
|j	|_| |d |_|d r| |d |_n|j|_|d |_| ||jj|_| |||jj|_||_|jdd |d7 }| jdd q6| jd| d|  d S )Nu$   Комментарий задачи r   r   r   ): 'r   rh  r   r   r	  uN   Комментарий уже существует, и был изменен: zERR-0046r  T)r  r  r  r   r   r   r   r   r   r  	processedu   Обработано u:    комментариев, из них приватных )r   r$  r   r   rj   r  r   r!   r'  r   	cmf_ownercmf_modified_byrh   r   r   r   rk  rE   _process_linksr(  r   r  r   )	r9   rj  
issue_datar"   Zcomment_countZcomment_private_countZcomment_datar  r  r(   r(   r)   _process_issue_comments  sH    $

z)CmfPluginYouTrack._process_issue_commentsu*   Обработка тегов задачиc                 C   s   zT| dg |d D ]}| |d }|j| q|jrR|jdd |j  W n>   | jj	d|d  d|d  d|d	  d
ddd Y nX d S )Nr  r'   Tr   u1   Не удалось привязать теги 'u   ' к задаче r   r   r   r   zERR-0102r   r  )
rC   r   r  r   r"  r   r  r  r   r!   )r9   rj  rq  r   r   r(   r(   r)   _process_issue_tags  s    "z%CmfPluginYouTrack._process_issue_tagsu0   Обработка вложений задачиc                    s  dd l }ddlm} |d  d|d  d}d| d|d	  d
}d}t|d d}|d}	|	 rZ||	}
|
 D ]ʉzz
drW W qttfdd|d d }}tjj||ddddgd}|stj||d| jd}|jr|r,| j|d d |d|_| |d |_|
d}|jdd |j|dd |jdd |r|j|d  kst|j d!|d   |j  W 5 Q R X W n tk
r } z:|d"7 }| jjd# d$| d%| d&|d |j  W 5 d }~X Y n>   |d"7 }| jjd' d(| d)|d | jj  Y nX W 5 | j	dd X qW 5 Q R X | |D ]< z"ztt fd*d|d d } d+ }tjj||d,}|stj| j|d|d-}|jrF|r| j|d d |d|_| |d |_|jdd |  t ! d. |j" tj#jj$% }|&|j'}|(  |j  W nB   |d"7 }| jjd' d+  d(| d)|d | jj  Y nX W 5 | j	dd X qd|S )/Nr   )RDiskr   r   r   r   u   Вложения задачи : 'r   rh  r   r   r   r	  rm  r  c                    s   | d  kS )Nr'   r(   r  )zip_attach_namer(   r)   rf    rg  z8CmfPluginYouTrack._process_attachments.<locals>.<lambda>r>   Zurl_previewZurl_preview_imgr  r  T)r'   r  r  r   r   r  r   r   F)Z
mark_dirtysizez != r   u(   Проблема с вложением 'u   ' в задаче uO   , размер файла не совпадает с метой из YouTrack: zERR-0034u;   Не удалось обработать вложение 'u   ' задачи zERR-0035c                    s   | d  d kS )Nr'   r   r(   rv  )attachment_datar(   r)   rf  (  rg  r   )r'   r  )r   r  r  r'   rW   ))zipfileZrdisk.rdiskrt  r   rQ   rR   ZipFileZnamelistr   r  rY  rj  r   r   CmfAttachmentrj   r  r'  r   rh   r   rS   r   Zupload_stream_filest_sizeAssertionErrorr  r  r!   Zrollbackr   Z
upload_dirr  r  Zfull_path_fileZCmfRFileZdata_driverZget_rdZ	get_rfileZ
_file_nameZmake_preview)r9   rj  rq  rz  rt  r  r"   r  r   Zall_attach_zip_fileZmyzipZattach_dataZattach_namer	  Zattach_fr:  rdiskZrfiler(   )ry  rw  r)   _process_attachments  s    






z&CmfPluginYouTrack._process_attachmentsu8   Обработка наблюдателей задачиc                 C   s   d|d  d|d  d|d  d}|d d	 D ]X}| j |d
 d |d}|s\td| ||jks0||jks0||jkr|q0|j| q0t  d S )Nu$   Наблюдатели задачи r   r   r   rl  r   rh  r  r  r   r  uI   _process_watchers: Не найден наблюдатель задачи )r'  CmfErrorr   r   rn  Z
spectatorsr   r   )r9   rj  rq  r"   r  r;  r(   r(   r)   _process_watchersP  s    $z#CmfPluginYouTrack._process_watchersr   c                 C   s  | j jd|d  d|d  d d|d  d|d  d|d  d	}| |D ].}i }||d
< d|d< | j|d d |d|d< | j|d d |d|d< |d |d< | |d |d< | |d |d< |d d |d< |d |d< | j d|d  |d< | j |d< ||d< d|d < |d! r:| |d! |d"< tjj	|d d#}|sRtjf |}|j
jtj|jjd$ |_|jd%d& qRd S )'Nu8   Загрузка журнала работ задачи r   r   r   r   u%   Журнал работ задачи rl  r   rh  r  closedr   r   r  r   r  rn  ro  r   r   r   r  Zdurationminutes
time_spentr   r   r  r   r(  r   Zremaining_estimater   r   r	  )r  Tr   )r   r  r  r   r'  rh   r$  r   ZCmfTimeTrackerHistoryrj   r  rE   r^   Z	timedeltar  r  r   )r9   rj  rq  r"   r  Ztimetracker_historyZtthr(   r(   r)   _process_issue_worklogb  s4    $

z(CmfPluginYouTrack._process_issue_worklogu#   Конвертация ссылокc                    s  |s|S t j| jjj}t|d}|dd D ]}|j	drZ| j
jd|  q2|drp|jd }n
|jd }|drq2zt j|}W nH tk
r }	 z*| jd	| d
| d|	  W Y q2W 5 d }	~	X Y nX |js|jr
|jdr2|j|jks
q2| j
jd|  t j|dd dd }
|	d  sptdt j|}|rp|d   rtt fdd|	dg d }|r|d }
tjj|
|dgd}|r|drP|jd |jd< |j|jd< d|jd< t|jd }|rP|d rP|d drP|jdkrPd|jjd< d|jjd < d|jjd!< |dr|jd |jd"< |j|jd< d|jd< | j
jd#|j  q2d$|j	dd%krNtd&t j|}|rN|d }tj j!d'd(d)| d*gd'gd+}|D ]V}|j"d, |kr|jd |jd"< |j#|jd< d|jd< | j
jd#|j#   q2qq2d-|j	dd%kr2|jd $ddd dd }| %|}|r2|jd |jd"< |j#|jd< d|jd< | j
jd#|j#  q2d%&d.d/ |j'j(D S )0Nr]  c                 S   s   |  dp|  dS )Nr  srcr_  ra  r(   r(   r)   rf    rg  z2CmfPluginYouTrack._process_links.<locals>.<lambda>rc  u"   Тег уже обработан: r  r  )r   zmailto:[u9   ] Не удалось разобрать URL-адрес 'z'. httpu!   Обработка ссылки: r  ru   ?r   zdata-attachment-idz/api/files/([-0-9]+)/?\?sign=.*r   c                    s   | d  kS )Nr   r(   rv  Zattachment_idr(   r)   rf    rg  r   r'   r>   r  Zsrc_origTZvideosourceZcontrolsz100%widthZheightrb  u   Заменили на z/issue/r   z/issue/([A-Za-z0-9]+-\d+)/?.*r(  r  z%"idReadable":"r   r  r   z/users/c                 S   s   g | ]}t |qS r(   rd  re  r(   r(   r)   r  	  s     z4CmfPluginYouTrack._process_links.<locals>.<listcomp>))r  r  urlparserJ   r  r>   r   rg  rh  rj   r   r  r  r`  rk   r   r   schemehostnamer
  r  researchrj  r   r   r|  sget	mimetypesZ
guess_typer'   r  r   r/  r(  r  stripr'  r  ri  r  )r9   rj  rq  r   Zyt_urlZ	text_soupr   r>   Z
parsed_urlr:  Zattachment_nameZ	url_matchry  Z
attach_objZ	mime_typer  rR  rQ  Z
user_loginr;  r(   r  r)   rp    s    






 






$

z CmfPluginYouTrack._process_linksu   Обработка задачиc                 C   s
  d}| j  d|d d  }tjjddd| dgd	gd
}|sXtd|d d  d|j}tjj|d}|s~tjjdd}d|d  d|d  d}|d }| j  d|d  }	| || jtj	j
 d |}
| j|
d< d|
d< ||
d< tj	jj}t|
d |kr8d|
d  d|d  |
d< |
d d| |
d< n|d |
d< |	|
d< |
d  rd|
d  j|
d!< |d"r| j|d" d |d#}||
d$< ||
d%< |s|  jd&7  _| jjd'|d"  d(d)d* | jjd'|d" d  tjddd+ |d,rh| j|d, d |d#|
d-< |
d- sh|  jd&7  _| jjd.|d,  d(d)d* | jjd.|d, d  tjddd+ |
d/g }|
d0g }|
d1g }| jd2| d3|
  tj	j|	d4d5 |
D d6}|stj	|
d | jd|	d7}t|d8r|js|jr|
 D ]\}}t||| q |jr,|jdd9 t  ||  ||7 }| !||j"j#|_"| $|||j"j#|_"|d: r~| %|| |d; d< r| &|| |d= d> r|d= d? r|d= d? d@ d }|dA|'dBdC }|dD r|(dEg |dD dF |j)_*|j)j#  | +|| ||_,||_-||_.|dG rF| /|| |
dH |_0||_|jrj|jdd9 | jj1j1j  dI|d  }tj2j|d}|stj2|| jdJ}||_3t4j56| j7j8j9dK|d  }dL| dM| dN|_"dO|_:|jdd9 | j;dPdQ t  |S )Ru}    Общая логика обработки которая потом разделяется на задачи и эпики r   r   r  r   r  r  %::::%r(  r  u2   Не найден проекта с ключем 'r  rh  r	  project.agile:defaultr   r  r   ru  r   r   r  TZapprovedr  r'   z<p><strong>z</strong></p><p></p>r   r   Nr   Zcache_status_typer  r  r   rn  r   u*   Не найден автор задачи zERR-0049r   r  )r   exc_infor  ro  uG   Не найден последний обновивший задачу r   r   r   u,   Попытка создать задачу 'u   ' из c                 S   s   g | ]}|qS r(   r(   )r  rn   r(   r(   r)   r  e	  s     z4CmfPluginYouTrack._process_issue.<locals>.<listcomp>r6  )r'   r   r  r  r  r   ZcommentsCountr  r  r  enabledZestimatere  ri   r  r   rE   z$op_gantt_task.timetracker_sched_workr  r  r   z
::comment:r  r   zissue/u@   Задача импортирована из YouTrack: <a href="z" target="_blank">z</a>rv   rQ  rm  )<r$  r   r   rj   r  r(  CmfCustFieldConfr?  r=  r   rC  Zdefault_activityr'   r  r  r  r'  r    r   r!   r   r   ZERRORpophasattrr  is_newr   r  r"  r   
cmf_commitr  rk  r   rE   rp  rr  r  r   rC   Zop_gantt_taskZ
sched_workr  r   r   r   rs  r   r<   r   r  r  r  r  rJ   r  r>   Z	log_levelr  )r9   r   r  project_ext_idr  r  r1  r"   r  r  Znormalized_issueZmax_task_name_lengthZissue_reporterr   r   r   rj  rn   rE   Zestimation_field_idZestimation_fieldZcomment_ext_idr  r  r(   r(   r)   r   	  s   









z CmfPluginYouTrack._process_issuec              	   C   sV   d}t dd4 | j rq>| }|dkr.q>|| |7 }qW 5 Q R X || d S )Nr   Fr  r  )r   r   r  rj   r   r  )r9   issue_queueissue_queue_errorsr  r   r(   r(   r)   _process_issue_thread	  s    
z'CmfPluginYouTrack._process_issue_threadc              
   C   s  ddl m} d}t  t  tjj|ddgd}|| _| jj	j	j
| _
| | jjd | _| jjd| j  t }t }	g }
t }t| jD ]F}t| jd| ||	d	d
}|
| |  | jjd|  qd}| |||D ](}| j r q || |d7 }q|
D ]}|d q$| jjd |
D ]}|  qHt | }| jjd d|| dd d}|	 s||	 7 }q| jjd|  ||7 }W 5 Q R X W 5 Q R X |S )Nr   r   r   r@  r   rN  uD   Обработка задач в несколько потоков: Z_process_issue_thread_)r  r  r  u=   Запущен параллельный обработчик r   r  u3   Ожидание обработки задач ... z-----u&    скорость обработки: r  u    задач в секундуu@   Обработка задач завершена, ошибок: )cmf.appr   r+  Zdisable_aclZdisable_notifyr   r   rj   r   r<   r$  _normalize_settingsr  r=  r  r  Zthreading_max_forksr   r  r  r  r   r  r   r  rM  r  r  r  r  )r9   rT  r]  r  r  r   r  r   r  r  Zissue_processr  r  r  Zissue_countr   r  r    r(   r(   r)   process_issue_fork	  s^    



z$CmfPluginYouTrack.process_issue_forkc                 C   s   dd l }|jdddd| jjj d| jj d|d  d	| d
| dgddtddtddd}| jd|j  | j  |S )Nr   z/usr/bin/python3z	manage.pyshellz*plugin = models.CmfPluginYouTrack.get(id='z(');retcode = plugin.process_issue_fork('z', 'r   z', z, z);Tz"/var/log/eva-import-subprocess.logr{  z&/var/log/eva-import-subprocess.err.log)Z	close_fdsZstart_new_sessionstdoutstderru   Запущен )	
subprocessPopenr   r<   r   rS   r   pidZ
log_detail)r9   r  r  r  r  r  r(   r(   r)   _execute_task
  s      0
zCmfPluginYouTrack._execute_taskc                    sZ  |  |d }| jjd| d| j dd  fdd  || j}t }d}g }t| jD ]0}| |||}||7 }|| ||kr^ qq^||k rt	d	 t
|D ]L}| }	|	d k	r|  j|	7  _|| | |||}
||7 }||
 qqt
|D ]&}|  |jr|  j|j7  _qt | }| jjd
| d|dddd d S )Nr   u   Обработка u6    задач в несколько процессов: Tr   c                    s.   t | | }|tjkr& | |d S |S d S )Nr   )r  r  r  ZIMPORT_OBJ_CNT)
task_countmax_processesZ
chunk_sizecalc_obj_countr(   r)   r  1
  s    
z8CmfPluginYouTrack._process_tasks.<locals>.calc_obj_countr   r   u   Обработка всех u$    задач завершена за r  r  )r`  r   r   r  r  r  r  r  r   sleepr/  Zpollr    r  Zcommunicate
returncode)r9   r  r  Zimport_obj_countr  r  r  r   r  r  Znew_procr  r(   r  r)   _process_tasks'
  sF    


 z CmfPluginYouTrack._process_tasksu   Обработка версийc           
   
   C   s  t jjddd|d  dgdgd}t jjd|d}t jjd|d}| |d	 }|D ]}|d
 dkrjqV|d D ]}zP| j rW   d S | jjd|d  d | j	 d|d	  }t j
j|d}	|	st j
|| jdd}	t jjdd|	_||	_|d |	_|dd|	_|dr,| |d |	_|jj|	_|	jrR|	jrR|	jdd |d rd||	_n||	_|	jr|d s|d r|	d n
|	d |	jr|	jr|	jdd | j jd7  _W qr   |  jd7  _| jjd|d  dd d!d" Y qrX qrqVd S )#Nr  r  r  z"scheme_wf.default_release_workflowr  release)sys_typetree_parentarchiver   z$typeZVersionProjectCustomFieldr  u!   Обработка версии 'r'   rh  r  r	  Tr  r   r  zlist.release:defaultr  descriptionr   ZreleaseDater   rE  ZreleasedCLOSEDZOPENr   u,   Ошибка загрузки версии 'ERR-0053r
  r  )r   r   rj   	CmfFolderrd  r   r  r  r  r$  r
  r%  r   r  r'   r   rh   Zrelease_date	scheme_wfZdefault_release_workflowr,  r  r"  r   r  Zset_default_statusr   r    r!   )
r9   r  project_objZrelease_folderZarchive_folderrc  re  r   r4  Zversion_listr(   r(   r)   _process_versions]
  sr    






z#CmfPluginYouTrack._process_versionsu)   Обработка компонентовc              
   C   s2  t jjddd|d  dgddgd}t jj|ddd	gd
}z| d|d }W n: tk
r   | jjd|d  d|d  d Y d S X |d D ]}| j	 r d S | jj
d|d  d z.|jsd|_|  | j d|d  }t jj|ddddddgd}|s$t j|| jdd}||_|d |_||_|drj| j|d d d|d  d |_nd |_d |_|jr|jr|jdd! |d"d#r|js|  d|j_|jjr|d"d#|j_|jjjdd! | j jd$7  _W q   |  jd$7  _| jjd%|d  d&d'd( Y qX qd S ))Nr  r  r  r   rn  r  r   Ttree_node_is_branch)r  r  Zinclude_systemr   )r   Z
Componentsr      Проект r  r  r'   uC    не содержит компонентов (подсистем).r  u)   Обработка компонента 'rh  r   descr_documentdefault_ownerdefault_responsibler  r  r  r6  r  r  u   Компонент r  r   r  r   r   u5   Ошибка обработки компонента r  r  r  )r   r   rj   r  rm  r   r   r  r   r  r  r  r   r$  r  r  r'   r  r'  r  r  r  r"  r  Zcreate_descr_documentZ
text_draftrE   r   r    r!   )r9   r  r  Zcomponents_folderZcomponents_fieldr5  r6  Zcomponents_listr(   r(   r)   _process_components
  s    




z%CmfPluginYouTrack._process_componentsu   Обработка теговc                 C   sl   t  }| j|d | |d dD ]0}| j r6 d S |d D ]}||d  q>q"|D ]}| | qXd S )Nr   r  r  r'   )r  rM  r`  r   r  r*  r   )r9   r  r  r   r   r(   r(   r)   _process_tags
  s    

zCmfPluginYouTrack._process_tagsc                 C   s  | j  d|d  }tjj|dgd}|shtj|d  d|| jdd}| jd	|d  d
|d   d|_|  tjjdd|d}dd tj	
 D }| |d }|D ]0}|d d dd}d| d| j   }	|	|krq| jtj	j d D ]}
|
dsq|
d d |d d kr| j  d|
d d  }tjj|ddgdd}|jr|| jjd|j d|j d qtjj||	||d}|stj||	||djdd | jd|	 d|
d   d!| d"| d#	  qqq|  |j  |S )$Nr   r   r   r6  r  u/   : Экран задач по умолчаниюTr'   r  r   r  u2   Создан экран задач проекта r  r'   r   r8  r!  r9  c                 S   s   i | ]}|d  |qS r;  r(   r<  r(   r(   r)   r4  '  s      z5CmfPluginYouTrack._process_screen.<locals>.<dictcomp>re  r  r   ri   r   r   r   rA  rB  r=  r  rD  rI  r   rB  u&   ) добавлено на экран 'u   ' в 'rh  )r$  r   r>  rj   r   r   rM  r   rO  r   ro   rd  r   rt  r=  rC  rP  rA  r  r   r'   r   rQ  rR  r  r  )r9   r  rU  ui_formrK  rV  rc  rl  r  rn   re  rW  rJ  rY  r(   r(   r)   _process_screen  s    
 
z!CmfPluginYouTrack._process_screenu,   Обработка схемы экрановc                 C   s   | j  d|d  }tjj|dgd}|sttj|d  d|| jdd}|jdd	 | jd
|d  d|d   | |}|jrtj	j|dgd}|stj	|| jdd}|jr||_
||_d|_|jdd	 t  |S )Nr   r   r   r6  r  u*   : Схема экранов проектаTr  r   u8   Создана схема экранов проекта r  r'   r  r   )r$  r   ZCmfUiFormSchemerj   r   r   r   r  r  ZCmfUiFormSchemeRuleui_form_schemer  rM  r   )r9   r  Zui_form_scheme_ext_idr  r  ruler(   r(   r)   _process_screen_scheme^  sF    
z(CmfPluginYouTrack._process_screen_schemec              
   C   s  dd t j D }| |d }|D ]}|d d dd}d| d| j  }||kr`q&| jt jj d D ]2}|	d	sqr|d d |d	 d krr| j d
|d d  }	t j
j	|	dddddgdd}
|
jr| jjd|
j d|
j d qrt jj	|
|d}|sBt j|
|| jd}| jd| d|d  d|  |d  |_|
jdkr
|
jjpfi }t|
jjpzt }i }t }|d D ]N}tj|d ddd}|d ||< |d r|| ||kr|| q|| ||_t||_||
_t||
_nz|
jd krt jj|
j }tt |j  }|d D ]H}|j	|d d!}|sb||d d!}|	dd"|_!|j"r:|#  q:|#  |
j"r|
j#dd# t$  qrq&d S )$Nc                 S   s   i | ]}|d  |qS r;  r(   r<  r(   r(   r)   r4    s      z9CmfPluginYouTrack._process_field_conf.<locals>.<dictcomp>r   re  r  r   ri   r   r   r   r/  r   r  r@  rA  TrB  r=  r  rD  )rJ  r  )rJ  r  r   rB  u<   ) добавлено в конфигурацию полей Z
canBeEmptyr3  r  r'   r  r  rE  r2  r+   Fr   )%r   r   ro   rd  r   r$  rt  r=  rC  rj   rP  rA  r   r  r   r'   r   r*  r   r.  r/  r  rE   r  r@  r+  r,  r*  r  r/  r   rS  rp   rT  r"  r   r  )r9   r  r1  rV  rc  rl  r  rn   re  Zfield_ext_idrJ  cust_field_conf_fieldrG  rX  r  r@  rE   r9  rZ  r[  r  r(   r(   r)   _process_field_conf  s    






z%CmfPluginYouTrack._process_field_confuA   Обработка схемы конфигурации полейc                 C   s>  | j  d|d  }tjj|dgd}|sttj|d  d|d| jd}|jdd	 | jd
|d  d|d   tjj|dgd}|stj|d  d|d| jd}|jdd	 | jd|d  d|d   | || |j	r2tj
j|dD ]}|jdd q||g | jdd}tj
f |}|jdd	 |  |S )Nr   r   r   r6  r  u?   : Схема конфигурации полей проектаTr7  r   uM   Создана схема конфигурации полей проекта r  r'   uL   : Конфигурация полей проекта по умолчаниюuB   Создана конфигурация полей проекта r  TEXKOM_db_delete)r  r1  Zlogic_typesr   r  )r$  r   ZCmfCustFieldConfSchemerj   r   r   r   r  r  r  ZCmfCustFieldConfSchemeRuler/  deleterR  )r9   r  Zcust_field_conf_scheme_ext_idcust_field_conf_schemer1  r  	rule_dictr(   r(   r)   _process_field_conf_scheme  sZ    z,CmfPluginYouTrack._process_field_conf_schemeu)   Обработка приоритетовc           	   
   C   s  d}ddddddd}z|  d	|d
 }W n: tk
rd   | jjd|d  d|d  d Y d S X |d D ]6}|d |krqn|d p|d |t|d
 dd< qn| j d|d
  }tj	j
|d}|rtjj
d|dgd}| stjddd|| jd}||_|jdd d S )N)ry   r|   r}   r   r   r   r   r   r   r   r   r   r   r   rx      Минимальныйrz   r{   r~   r   r      Обычныйr   r   r   r   r      Критичныйr   r   r   r  r~   r  r   r  u   Блокирующий)rt   ru   r   r   rv   rw   r   r   r  r  r  r'   u3    не имеет приоритетов задач.r  r   r  r   r   r	  r   r  r  u   Приоритет)r   r'   Zorig_captionr  r   Tr   )rm  r   r   r  r   r   r   r$  r   r  rj   r*  r  r   )	r9   r  Zpriority_namesr  Zpriority_fieldr   Zcust_field_conf_ext_idr1  r  r(   r(   r)   _process_priorities"  sT    #	&z%CmfPluginYouTrack._process_priorities)project_structr  c                 C   s  | j jd|d  d|d   tjjdd|d gddgd}|r|jj|d ksh|jr|d |jkr|d  d	|d  d
|d< | j j	d|j
 d|d   n|js|d |_|  d|d< | ||d< | ||d< tjjddd|d  dg| d}|s*tj| j |d |d dd}|jrn|D ]$}|dkrHq6t||||  q6|drnd|_|j}|  |rtjj|dD ]}|jdd qt  | | t  | | t  | | t  | | t  | | | j  jd7  _|   t  |S )Nu"   Обработка проекта r  r  r'   r  r   r  r  r   r   u   Проект с именем u8    уже существует! Переименуем в TZtask_allow_multiple_sprintsr  r  r  r  )r   r  r'   r  Z
restrictedZprivater  r  r   )r   r  r  r   r   rj   r   r   r  r   r'   r   r  r  keysr  r  Zperm_policyr  r   r/  r  r  r  r  r  r  r  r   r   )r9   r  r  r  r&  r  rQ  r(   r(   r)   _process_projectu  s~    






z"CmfPluginYouTrack._process_projectu#   Обработка статусовc              
   C   s<  z|  d|d }W n: tk
rN   | jjd|d  d|d  d Y d S X |d D ]}| j rl d S | jjd	|d  d
 | j d|d  d|d  }tj	j
|d}|stj	|d p|d || jd}|d rd}n&|d r| |d }n| |d }||_|jdd | jj  | j jd7  _qXd S )Nr   r   r  r  r  r'   -    не имеет статусов задач.r  u#   Обработка статуса 'rh  r   r	  r   )r'   r  r   Z
isResolvedr  Tr   r   )rm  r   r   r  r   r  r  r$  r   CmfStatusCoderj   Zcalc_status_typer  r   r  r  r   )r9   r  state_fieldr   Zstate_ext_idstatus_coder  r(   r(   r)   _process_statuses  s>    
z#CmfPluginYouTrack._process_statusesu2   Обработка логических типовc                 C   s@  dddddddddddddddddddddddddd	ddd	ddd	dd
ddd
ddd
ddd}z|  d|d }W n: tk
r   | jjd|d  d|d  d Y dS X |d D ]j}| jjd|d  d | j r  dS | j d|d  }tj	j
ddd| dgd}|r8q|
|d }|sf|
drf|
|d }|rtj	j
dd |d gdgd!}|jrd| |j |_nd| d|_|jd"d# qd$|d  d}dd%|d  g}	|
dr|d&|d  d7 }d'|	dd%|d  gg}	| jj| tj	j
|	dgd!}|rx|jr\d| |j |_nd| d|_|jd"d# q| jjd(|d  d) d}
tj	j
dd |
gd}tj	|d p|d |
d*d+|d,d| d| jd-}|d. d/ d0kr |d. d/ |_|
dr|d g|_|jd"d1 t  | j jd27  _qdS )3u#    Маппинг Type в logic_type    Подзадачаztask.sub:default)r'   r   Z	UserStoryztask.userstory:defaultz
Task Agileztask.agile:defaultBugztask.bug:defaultEpicztask.epic:default)r  ZSubtaskzSub-tasku   ИсторияZStoryu   Задачаu   ЗаданиеZTasku   Ошибкаu   Багr  u   Эпикu   Вехаr  r	   r   r  r  r  r'   u<    не имеет логических типов задач.Nr  u*   Обработка типа задачи 'rh  r   r  r  r  r  r   r   r   r  r  Tr   u   Ищем по имени 'r   u	    или 'r   u   Тип 'u.   ' не найден и будет созданr  r   r   )r'   r   templaterM  r  r   color
background#fffr   r   )rm  r   r   r  r   r  r  r$  r   r%  rj   r  r   r  Zui_colorr   r   r   )r9   r  Z	name2codeZ
type_fieldZ
issue_typer2  r   Zlogic_type_dictr  Zfilter_Ztemplate_codeZlogic_type_templater(   r(   r)   _process_issue_types  s    

z&CmfPluginYouTrack._process_issue_typesc           	      C   sP  | j  d|d  d|d  }tjj|d}|j d|d  }tjjdd|gd}|s~tjjdd|gdd|gddd ggd}|sd	d|d	 g}|d
 rdd	d|d
 gd	d|d	 gg}tjj|dd|gddd ggd}|stj||| jd}|d
 p|d	 |_|d p
d|_|d d dkr.|d d |_	||_
d|_||_|jdd |S )Nr   r   r	  r  r  r   r  r,  r'   r   r   )r  r,  r   r  r   r  r  r  Tr   )r$  r   r  rj   r  r&  r   r'   r   r  r  Zallow_empty_transitionr   )	r9   Zstatus_datar,  r  r  r  r3  r   Zfilter_namer(   r(   r)   _create_statusn  sJ    z CmfPluginYouTrack._create_statusc              
   C   s  | j  d|d  }tjj|dgd}|sbtjjdd}tj|d  d||| jd	}|jd
d z0| d|d }|d D ]}| ||| q|W n: tk
r   | jj	
d|d  d|d  d Y d S X tjjdd|gddd ggdgd}|D ]>}tjjdd|jgdd|gddd ggds$q|jd
d
d q| j  d|d  }	tjj|	d}
|
stjjdd}tj|d  d||	| jd	}
||
_||
_||
_|
jd
d tjj|
dD ]}|jd
d qd||
| jd }tjf |}|jd
d |
S )!Nr   r   r  r6  zdefault.system:defaultr  r  u3   : Simple бизнес-процесс проекта)r'   r  r  r   Tr   r   r  r  r  r'   r  r,  r  r  r  z!=r   )r  rL  z
::SIMPLE::r	  zsoftdev:defaultu@   : Simple-схема бизнес-процесса проекта)r  r  r   )rM  Ztarget_workflowr  r   )r$  r   ZCmfWorkflowrj   r   r   rm  r  r   r  r   r&  r/  r  r  ZCmfSchemeWfZdefault_epic_workflowZdefault_task_workflowZdefault_subtask_workflowZCmfSchemeWfRule)r9   r  Zworkflow_ext_idr,  Zworkflow_templater  r   Zworkflow_statusesr   Zscheme_ext_idr  Zscheme_templater  r  r(   r(   r)   _create_scheme_wf_for_project  s|    
z/CmfPluginYouTrack._create_scheme_wf_for_projectu#   Обработка проектовc           	      C   sl  t jjddjj}|  D ]J}t|d |d< z| j rDW  d S |d dd | j	D kr`W qd| j
 d|d  d}t jjdd}| | | | | |}|di }|r| |d }n
d	d
d}||d< d|d |d |jj|||d |||d
}| || t  W q tk
rd   t  |  jd7  _| jjd|d  d|d  ddd Y qX qd S )NZsoftdevr  r   c                 S   s   g | ]}|d  qS r  r(   rI  r(   r(   r)   r    s     z7CmfPluginYouTrack._process_projects.<locals>.<listcomp>r   r  r  z#default_import_youtrack@evateam.comZdefault_import_youtrack)r   r'   r  r  r'   ZhtmlDescriptionr  )
Zproject_typer'   r   r   r  r  Ztask_code_prefixrn  r  r(  r   u<   Не удалось импортировать проект r  zERR-0104r   r  )r   ZCmfActivityrj   r   rE   rL  ri  r   r  r7   r$  r%  r  r  r  r'  r  r  r   r   r    r!   )	r9   r  r  r  r   r  Zproject_leaderrn  r  r(   r(   r)   _process_projects  sR    




z#CmfPluginYouTrack._process_projectsu*   Обработка связей задачc                 C   s.  |   D ]}| j|d | |d dD ]^}| j rB  dS |d }| j d|d  }|d d d }|d d }|r| j d|d	 d  }| j|g }|| || j|< |d
 D ]}	|	d d }
|	d sq|
|krq|	d }|	d }| j d|
 }|dkrt|	d D ]X}| d|d  d|d  }|||d d| j d|d  |d dd| j	|< qq|dkr|	d D ]X}| d|d  d|d  }|| j d|d  |d d||d dd| j	|< qq|dkr|	d D ]}| d|d  d|d  }|| j	kr"q| d|d  d|d  }|| j	krNq|||d d| j d|d  |d dd| j	|< qqq*q| j
dt| j  tjjdd}| jD ]}| j r dS tjj|d}|s| jjd|  q| j| D ]}tjj|dgd}|s:| jjd|  q|j|jkr\||_|jdd nD| d| }tjj|d}|stj||||| jd}|jdd qq| jj  | jjdt| j	   dd d!d"}| j	 D ]2\}}| j r dS z| j d|d# d  }|d# d$ }||}|rLtjj|d}ntjj|d}|sttjjd$d%|gd&}|stj||| jdd'}|jr|d# d( |_|d# d) |_|d# |_|jdd tjj|d* d+ d}|s| jjd,|d* d-  d.|d* d+  d/ W qtjj|d0 d+ d}|sd| jjd1|d0 d-  d.|d0 d+  d/ W qtjj|d}|stj|| jd2}||_||_||_ |jdd W np   |  j!d37  _!| jj"d4|d#  d5|d* d-  d.|d* d+  d6|d0 d-  d.|d0 d+  d7d8d9d: Y nX q| jj  dS );u4    Постобработка связей задач r   r  Nr   r   r  ZlinkTyperO  r   r  Z
issuesSize	directionZINWARD:)r  r&  )r:  outwardIssueinwardIssueZOUTWARDZBOTHu   Подзадачи: zsystem.additional_parentr  r	  uq   Не удалось связать задачи, возможно задача не попала в импорт parent_taskr6  Tr   z:additional_parent:)in_linkout_linkrelation_typer  r   u   Связи задач: zsystem.finish:finishzsystem.duplicatezsystem.link)ZDependZ	DuplicateZRelatesr:  r'   r  r   r  ZtargetToSourceZsourceToTargetr  r  u=   Не удалось найти входящую задачу r&  r   u   ). Возможно задача не попала в импорт или находится в проекте, который еще не импортирован.r  u?   Не удалось найти исходящую задачу r  r   u.   Не удалось создать связь z. in_link: z), out_link: r   zERR-0052r   r  )#rL  rM  r`  r   r  r$  r6   rj   r   r5   r   r  r   ZCmfRelationTyper   r  r   r  r  r   ZCmfRelationOptionr  r  r  r  r   r  Zin_type_nameZout_type_namer(  r  r  r  r    r!   )r9   r  r   r  r  Zsubtask_linktype_idZissue_parentZparent_ext_idZ	sub_tasksZ
issue_linkZlinktype_idZlink_directionZ	link_typeZlinktype_ext_idZinward_issueZrelation_ext_idZoutward_issueZ
both_issuer  r  Zchild_ext_idZ
child_taskZrelation_optionZ	map_namesZissue_relationZrelation_type_ext_idZlink_type_nameZrelation_coder  r  r(   r(   r)   _process_relations'  s@   







  Fz$CmfPluginYouTrack._process_relationsc                 C   s  d| _ || _d| j_d| j_d| j_| j  | j | _| jjjj	| _	| 
| jjd | _t  |   |   |   |   |   |   |   |   |   |   | jjjddr|  j | j 7  _ n| jjd d| j_| j  t  |  D ]H}|d d	d
 | jD kr*q| jjd|d  d|d  d q| jjd| j   | jjd| jj  | j  S )Nr   u'   Импорт данных из YouTrackrN  Zprocess_linksTu2   Отключена обработка ссылокr   r   c                 S   s   g | ]}|d  qS r  r(   rI  r(   r(   r)   r  ,  s     z4CmfPluginYouTrack.process_import.<locals>.<listcomp>u&   Импортирован проект r  ru  r'   rh  u#   Ошибок обнаружено: u-   Импортировано объектов: )r    r   r'   r   r   r   Zget_max_processesr  r<   r$  r  r  r=  r   r  r  r   r)  r+  r\  r  r  rE   rj   Zprocess_cross_linksr  r   rL  r7   r  )r9   r   r  r(   r(   r)   process_import  sF    

z CmfPluginYouTrack.process_import)NrY   rZ   )NN)N)N)r   rg   )NN)NN)TTN)^r   
__module____qualname__r   r.   Zui_meta_skipZapi_methodsr   __annotations__r   ri  r)  r4   propertyrJ   r0   staticmethodre   rh   rm   r   r   rr   r   r   r   r   r   r   r   r   r   r   r   r   r<  r?  rS  r1   r`  rN  rd  rm  r-  r   r  r'  r0  rL  rM  r-   r   r  r  r  r  r  r  r  r  r.  r)  r+  r5  r\  rk  rr  rs  r  r  r  rp  r   r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  r  __classcell__r(   r(   r:   r)   r.   -   s4  

   

!

)"
	
  
 4 9

 

   8  y '(#?
 
+
'5 L
4

z


 
 =@6
F
V
R
*`
8
R\
*
q.N
<
 Tr.   )$base64r[   r^   r  r  Zmultiprocessingrs  r  r  r  pathlibr   Zqueuer   	threadingr   typingr   r   r   r   r	   r
   Zpsutilrc   Zbs4r   r  r   Zcmf.includeZmodules.youtrack.fieldsr   Z modules.youtrack.youtrack_clientr   r-   r.   r(   r(   r(   r)   <module>   s*    